노벨상 수상자 Geoffrey Hinton, AI 안전 조치 필요성 경고

인공지능의 잠재력에 대해 한때 열정적이었던 제프리 힌턴은 이제 이 기술이 가져올 미래의 위험에 대해 우려를 표명하고 있다 WSJ 에 따르면.

인공지능 분야의 선도적인 전문가인 제프리 힌튼이 최근 물리학 노벨상을 수상했습니다. 그의 신경망 연구는 오늘날 우리가 사용하는 AI 기술을 만드는 데 기여했습니다. 그러나 힌튼은 축하를 받는 대신에, AI가 신중하게 다루지 않으면 굉장히 위험할 수 있다고 경고하고 있습니다.

힌턴은 AI 시스템이 우려를 불러일으킬 수 있다고 걱정하고 있습니다.

• 인간의 통제를 벗어나다
• 선거에 영향을 미치다
• 위험한 존재가 되다
• 인간의 지능을 넘어서다

힌튼은 그가 언급한 성공과 함께 따라오는 위험에 대해 이야기하고, 지금보다 더 나은 안전 조치의 필요성을 강조합니다. OpenAI와 Google 같은 많은 기업들이 AI 발전을 재촉하고 있는 가운데, 힌튼은 새로운 기술의 개발과 책임 있는 태도 사이의 균형을 찾을 것을 촉구합니다.

AI 연구자들 사이에는 다양한 의견이 존재합니다.

힌튼의 견해에 모두가 동의하는 것은 아닙니다. 일부 연구자들은 힌튼이 위험성을 과장한다고 생각합니다. 이러한 위험에 대해 지나치게 걱정하는 것이 발전을 저해할 수 있다고 주장합니다. 산타페 연구소의 교수인 멜라니 미첼은 차별과 같은 즉각적인 문제에 초점을 맞춰야 한다고 언급합니다. 회의적인 사람들은 오늘날의 AI가 심각한 피해를 일으킬 만한 능력이 없다고 믿습니다. 그들은 종종 AI의 현실 세계에 대한 제한된 이해를 지적합니다.

더 읽기:

어제 · 오전 4:49

AI와 최첨단 통증 관리: 신약 혁신

AI 전문가인 얀 르쿤은 고급 AI가 심각한 피해를 초래할 것이라는 생각에 대해 회의적이다. 그는 이러한 생각이 과장되어 있다고 본다. 르쿤은 AI가 기본적인 동물만큼도 영리하지 않다고 말하며, AI가 갑자기 독립적으로 작동할 이유가 없다고 생각한다.

힌튼은 그의 사명에 전념하고 있습니다. 그는 AI의 위험성에 대해 자유롭게 이야기하기 위해 구글을 떠났습니다. 그는 기업들이 AI를 더 안전하게 만드는 데 더 많은 자금을 투입할 것을 촉구합니다. 일부 사람들은 그와 의견이 다르지만, 그의 노벨상 수상은 그의 명성을 강화하고 그의 메시지를 널리 알리는 데 도움이 됩니다.

이 문제를 해결하기 위한 법률과 기업 정책에 대한 요구가 점점 증가하고 있습니다.

힌튼은 사람들에게 경고하는 것에 그치지 않고, 적극적인 조치를 원하고 있다. 그는 AI 안전 연구에 투자하자는 내용의 논문에 서명했다. 힌튼은 대형 기술 회사들이 이 분야에 많은 돈을 투자해야 한다고 믿고 있다. 또한 정부가 개입해서 이것이 이루어지도록 해야 한다고 생각한다. 그는 개발자들이 AI 시스템의 안전성을 보장하고, 큰 피해를 일으키지 않도록 하는 것을 목표로 한 캘리포니아주의 법안을 지지했다.

캘리포니아 주지사 개빈 뉴섬은 대형 기술 기업들이 반대했기 때문에 그 법안을 거부했습니다. 이 결정은 힌튼의 계획에 실망을 안겼습니다. 그럼에도 불구하고, 그는 AI 안전의 중요성에 대해 정책 입안자와 엘론 머스크와 같은 기술 리더들을 설득하려고 계속 노력하고 있습니다.

힌턴의 우려는 AI 개발에 있어서 중요한 논의를 부각시킵니다. 진보와 신중함 사이의 균형을 찾는 것이 중요합니다. 기업들은 안전하지 않은 경우에 새로운 기술을 만들고 싶어하지 않습니다. 정책 입안자와 연구자들은 미래에 AI가 어떻게 발전해야 할지에 대해 논의하고 있습니다. 이 논의는 AI의 이점과 위험을 비교하는 것에 관한 것입니다. 힌턴의 경고는 안전한 미래를 위해 AI를 책임감 있게 개발하는 것이 중요하다는 것을 보여줍니다.