Nobelprijswinnaar Geoffrey Hinton waarschuwt voor AI-bedreigingen voor de mensheid

Geoffrey Hinton, die ooit enthousiast was over de mogelijkheden van kunstmatige intelligentie, uit nu zorgen over de toekomstige risico's van de technologie volgens de WSJ.

Geoffrey Hinton, een vooraanstaand expert op het gebied van kunstmatige intelligentie, heeft onlangs de Nobelprijs voor de Natuurkunde gewonnen. Zijn onderzoek naar neurale netwerken heeft bijgedragen aan de AI-technologieën die we vandaag de dag gebruiken. In plaats van te vieren, waarschuwt Hinton nu echter dat AI erg gevaarlijk kan zijn als het niet zorgvuldig wordt behandeld.

Hinton maakt zich zorgen dat AI-systemen mogelijk:

• Ontsnappen aan menselijk toezicht
• Verkiezingen beïnvloeden
• Gevaarlijk worden
• Menselijke intelligentie overtreffen

Hinton wijst op de risico's die gepaard gaan met de successen die hij noemt en benadrukt de noodzaak van betere veiligheidsmaatregelen. Veel bedrijven, zoals OpenAI en Google, werken hard om AI snel te ontwikkelen. Hinton dringt aan op het vinden van een balans tussen het maken van nieuwe technologie en verantwoordelijkheid nemen.

Verschillende Meningen Onder AI Onderzoekers

Niet iedereen is het eens met Hinton's standpunten. Sommige onderzoekers vinden dat Hinton de gevaren overdrijft. Zij denken dat te veel zorgen over deze gevaren de vooruitgang kan vertragen. Melanie Mitchell, een professor aan het Santa Fe Institute, stelt dat we ons moeten richten op directe problemen zoals discriminatie. De sceptici geloven dat de huidige AI niet de capaciteit heeft om serieuze schade aan te richten. Zij benadrukken vaak de beperkte realiteitszin van AI.

Yann LeCun, een deskundige op het gebied van AI, heeft twijfels over het idee dat geavanceerde AI grote schade zal veroorzaken. Hij vindt dat deze gedachte overdreven is. LeCun stelt dat AI nog niet zo intelligent is als zelfs de eenvoudigste dieren, en ziet daarom geen reden om zich zorgen te maken dat AI plotseling onafhankelijk zal worden.

Lees ook:

Gisteren · 09:49

Chronische pijnbestrijding verbeteren met AI en deep learning

Hinton is vastberaden in zijn missie. Hij heeft zijn baan bij Google opgezegd zodat hij vrijuit kan praten over de gevaren van AI. Hij dringt erop aan dat bedrijven meer geld investeren in het veiliger maken van AI. Hoewel sommige mensen het niet met hem eens zijn, versterkt zijn Nobelprijs zijn reputatie en helpt het zijn boodschap te verspreiden.

Er is een groeiende behoefte aan wetten en bedrijfsbeleid die deze problemen aanpakken.

Hinton waarschuwt niet alleen mensen; hij wil dat er actie wordt ondernomen. Hij heeft een document ondertekend dat oproept tot investeringen in AI-veiligheidsonderzoek. Hinton is van mening dat grote technologiebedrijven hier veel geld aan moeten besteden. Bovendien vindt hij dat de overheid moet ingrijpen om dit te waarborgen. Hij steunde een wetsvoorstel in Californië dat erop gericht was ontwikkelaars te verplichten ervoor te zorgen dat hun AI-systemen veilig zijn en geen grote schade veroorzaken.

De gouverneur van Californië, Gavin Newsom, heeft het wetsvoorstel afgewezen omdat grote technologiebedrijven ertegen waren. Dit is een teleurstelling voor de plannen van Hinton. Desondanks probeert hij nog steeds om beleidsmakers en technologieleiders, zoals Elon Musk, te overtuigen van het belang van AI-veiligheid.

Hintons zorgen vestigen de aandacht op een belangrijk debat binnen de AI-ontwikkeling. Het is essentieel om een balans te vinden tussen vooruitgang boeken en voorzichtig zijn. Bedrijven willen nieuwe technologieën creëren, maar niet als deze onveilig zijn. Beleidsmakers en onderzoekers bespreken hoe AI zich in de toekomst zou moeten ontwikkelen. De discussie gaat over het afwegen van de voordelen van AI tegen de risico's. Hintons waarschuwingen benadrukken dat het verantwoord ontwikkelen van AI cruciaal is voor een veilige toekomst.