Nobel Geoffrey Hinton alerta sobre riscos da IA para humanidade

Geoffrey Hinton, que antes era otimista quanto ao potencial da inteligência artificial, agora manifesta preocupações sobre os riscos futuros dessa tecnologia segundo o WSJ.

Geoffrey Hinton, um dos principais especialistas em inteligência artificial, recentemente ganhou o Prêmio Nobel de Física. Sua pesquisa sobre redes neurais contribuiu para o desenvolvimento das tecnologias de IA que usamos hoje. No entanto, em vez de comemorar, Hinton está agora alertando que a IA pode ser muito perigosa se não for manejada com cuidado.

Hinton está preocupado que os sistemas de IA possam:

• Fugir do controle humano
• Interferir em eleições
• Tornar-se perigoso
• Superar a inteligência humana

Hinton discute os riscos que acompanham os sucessos que ele menciona. Ele enfatiza a necessidade de melhorar as medidas de segurança agora. Muitas empresas, como a OpenAI e o Google, estão se esforçando muito para avançar rapidamente na área de IA. Hinton destaca a importância de encontrar um equilíbrio entre criar novas tecnologias e ser responsável.

Opiniões Diversas entre Pesquisadores de IA

Nem todos concordam com as opiniões de Hinton. Alguns pesquisadores acreditam que Hinton exagera os perigos. Eles pensam que se preocupar demais com esses riscos pode atrasar o progresso. Melanie Mitchell, professora no Instituto Santa Fe, afirma que devemos nos concentrar em problemas imediatos, como a discriminação. Aqueles que são céticos acreditam que a inteligência artificial de hoje não tem a capacidade de causar danos sérios. Eles frequentemente mencionam a compreensão limitada da IA sobre o mundo real.

Yann LeCun, um especialista em inteligência artificial, tem dúvidas sobre a ideia de que IA avançada causará grande dano. Ele acredita que essa preocupação é exagerada. LeCun afirma que a IA não é tão inteligente quanto animais básicos, portanto, não vê motivo para se preocupar que a IA se torne independente de repente.

Leia também:

5 de outubro de 2024 · 22:33

IA desafia humanos no diagnóstico de tumores cerebrais

Hinton está dedicado à sua missão. Ele deixou seu emprego no Google para poder falar abertamente sobre os riscos da IA. Ele incentiva as empresas a investirem mais dinheiro para tornar a IA mais segura. Mesmo que algumas pessoas discordem dele, seu Prêmio Nobel reforça sua reputação e ajuda a divulgar sua mensagem.

Há uma crescente necessidade de leis e políticas empresariais para lidar com essas questões.

Hinton não está apenas alertando as pessoas; ele quer que medidas sejam tomadas. Ele assinou um documento que pede investimento em pesquisa de segurança em IA. Hinton acredita que grandes empresas de tecnologia devem gastar muito dinheiro nisso. Ele também acha que o governo deve intervir para garantir que isso aconteça. Ele apoiou um projeto de lei na Califórnia que visava obrigar os desenvolvedores a garantir que seus sistemas de IA sejam seguros e não causem danos significativos.

O governador da Califórnia, Gavin Newsom, vetou o projeto de lei devido à oposição das grandes empresas de tecnologia. Isso é uma decepção para os planos de Hinton. Mesmo assim, ele continua a tentar convencer formuladores de políticas e líderes do setor tecnológico, como Elon Musk, sobre a importância da segurança em IA.

As preocupações de Hinton destacam uma discussão importante no desenvolvimento da IA. É crucial encontrar um equilíbrio entre avançar e ser cauteloso. As empresas estão interessadas em criar novas tecnologias, mas não se forem inseguras. Reguladores e pesquisadores discutem sobre como a IA deve evoluir no futuro. O debate envolve pesar os benefícios da IA em relação aos seus riscos. Os alertas de Hinton mostram que desenvolver IA de forma responsável é essencial para um futuro seguro.