병원에서 인공지능 채팅봇 사용의 장단점에 관한 최근 연구 결과

Seoul챗GPT와 같은 대형 언어 모델은 의사 시험을 쉽게 통과할 수 있습니다. 그러나 실제 병원에서 환자를 진단하는 데 사용하기에는 위험성이 있습니다. 이들은 빠른 진단을 내리지만 의료 지침을 따르지 않는 경우가 많기 때문입니다. 뮌헨 공과대학교의 연구원들은 AI 챗봇이 임상 실무에서 활용될 수 있는지를 실험했습니다.

연구진은 무료로 이용할 수 있는 언어 모델인 Llama 2를 사용했습니다. 그들은 응급실에서 치료까지의 과정을 시뮬레이션했습니다. 연구진은 미국의 한 클리닉에서 제공된 익명의 환자 데이터를 사용하여 복통을 호소하는 환자 2400건을 선정하였습니다. 인공지능은 어떤 검사를 시행할지 결정하고, 진단과 치료 계획을 수립해야 했습니다.

발견 사항:

• AI 모델이 필요한 모든 검사를 일관되게 요청하지 않았습니다.
• 정보가 많을수록 정확도가 떨어졌습니다.
• AI는 종종 치료 지침을 무시했습니다.
• 진단은 정보를 받는 순서에 따라 달라졌습니다.

AI는 실제 의사들과 비교했을 때 성능이 떨어졌다. 의사들은 89%의 정확도로 진단에 성공한 반면, 가장 뛰어난 AI 모델은 73%의 정확도를 보였다. 특히, 담낭염과 같은 일부 진단에서는 AI의 정확도가 단지 13%에 불과했다.

연구진은 데이터 보호 문제로 인해 ChatGPT나 구글의 AI 같은 상용 AI 모델을 시험하지 않았습니다. 병원들은 또한 제어 가능하고 안전하게 유지할 수 있는 모델이 필요하며, 이를 위해 오픈 소스 모델이 제공됩니다. 상용 모델은 어떤 데이터로 훈련되었는지 알 수 없기에 공정한 평가가 어렵습니다.

더 읽기:

어제 · 오후 10:00

온실가스 감축 없이 위험에 처한 파타고니아 빙하 보호막

의료 진단을 위한 AI 기술이 빠르게 발전하고 있습니다. 뮌헨 공과대학의 다니엘 뤼커트 교수는 AI가 미래에 의사들에게 유용할 수 있다고 생각합니다. AI는 의사들이 사례를 논의하는 데 도움을 줄 수 있지만, 곧 의사들을 대체하지는 않을 것입니다. 병원들은 환자 데이터의 보안과 통제를 위해 오픈 소스 모델이 필요합니다.

의료 분야에서 AI 챗봇은 잠재적인 도움이 될 수 있지만, 아직 완벽히 준비되지는 않았습니다. 더 많은 테스트와 조정이 필요합니다. 현재로서는 학술 작업을 돕고 의사들에게 지원 역할을 할 수 있지만 최종 진단을 내릴 수는 없습니다. AI 기술은 빠르게 발전하고 있어서, 앞으로 몇 년 안에 챗봇이 더욱 향상될 가능성이 높습니다.

의사들은 믿을 수 있는 도구가 필요합니다. 인공지능이 인간 의사만큼 신뢰할 수 있다고 입증되기 전까지는 중요한 결정을 혼자 내리면 안 됩니다. 연구자들은 이러한 모델을 개선하기 위해 실험할 장소를 만들고 있습니다. 그러나 병원은 완전히 이해하고 통제할 수 있는 인공지능만 사용해야 합니다.

AI 챗봇은 가능성을 보이고 있지만, 아직 병원에서 사용하기에는 적합하지 않습니다. 더 많은 연구와 개선된 데이터 학습, 그리고 더 엄격한 지침이 필요합니다.