Nobelpristagaren Geoffrey Hinton varnar för AI-systemens risker

Geoffrey Hinton, som en gång var entusiastisk över möjligheterna med artificiell intelligens, uttrycker nu oro över teknologins framtida risker enligt WSJ.

Geoffrey Hinton, en framstående expert inom artificiell intelligens, har nyligen vunnit Nobelpriset i fysik. Hans forskning om neurala nätverk har bidragit till att skapa de AI-teknologier vi använder idag. Istället för att fira, varnar Hinton nu för att AI kan vara mycket farligt om det inte hanteras varsamt.

Hinton är orolig för att AI-system kan:

• Undslippa mänsklig kontroll
• Påverka val
• Bli farlig
• Överträffa mänsklig intelligens

Hinton diskuterar riskerna som följer med de framgångar han nämner och betonar behovet av bättre säkerhetsåtgärder nu. Många företag, såsom OpenAI och Google, arbetar intensivt med att snabbt föra AI framåt. Hinton uppmanar till att hitta en balans mellan att skapa ny teknik och att ta ansvar.

Skilda Åsikter Bland AI-forskare

Alla håller inte med Hinton. Vissa forskare anser att Hinton överdriver riskerna. De menar att för mycket oro kring dessa risker kan bromsa utvecklingen. Melanie Mitchell, professor vid Santa Fe Institute, påpekar att vi borde fokusera på omedelbara problem som diskriminering. De som är skeptiska anser att dagens AI inte har kapaciteten att orsaka allvarliga skador och nämner ofta AI:s begränsade förståelse av den verkliga världen.

Yann LeCun, en expert inom AI, är skeptisk till idén att avancerad AI kommer att orsaka stor skada. Han anser att denna oro är överdriven. LeCun påpekar att AI inte är lika intelligent som ens enkla djur, så han tror inte att det finns någon anledning att oroa sig för att AI plötsligt skulle bli självständig.

Läs också:

Igår · 15:27

USA dominerar AI-innovation, lämnar Kina bakom i Stanford-rankning

Hinton är hängiven sin mission. Han lämnade sitt jobb på Google för att kunna prata öppet om de risker med AI. Han uppmanar företag att investera mer pengar i att göra AI säkrare. Trots att vissa inte håller med honom, stärker hans Nobelpris hans anseende och hjälper till att sprida hans budskap.

Det finns växande krav på lagar och företagsregler som tar itu med dessa frågor.

Hinton nöjer sig inte bara med att varna folk; han vill att konkreta åtgärder ska vidtas. Han skrev under ett dokument som uppmanar till investeringar i forskning kring AI-säkerhet. Hinton anser att stora teknikföretag bör lägga betydande summor på detta. Han tycker också att regeringen bör ingripa för att säkerställa att det sker. Han stödde ett lagförslag i Kalifornien som syftade till att tvinga utvecklare att se till att deras AI-system är säkra och inte orsakar stor skada.

Kaliforniens guvernör Gavin Newsom avvisade lagförslaget eftersom stora teknikföretag motsatte sig det. Detta är en besvikelse för Hintons planer. Trots det försöker han fortfarande övertyga beslutsfattare och teknikledare, som Elon Musk, om vikten av AI-säkerhet.

Hintons oro lyfter fram en viktig diskussion inom AI-utveckling. Det är avgörande att hitta en balans mellan att göra framsteg och att vara försiktig. Företag vill skapa ny teknologi, men inte om den är osäker. Beslutsfattare och forskare diskuterar hur AI bör utvecklas i framtiden. Diskussionen handlar om att väga AI:s fördelar mot dess risker. Hintons varningar visar att det är viktigt att utveckla AI ansvarsfullt för en säker framtid.