구글은 가디언지가 AI가 생성한 답변이 사용자에게 심각한 오해를 불러일으킬 수 있다는 조사 결과를 발표한 후 특정 의료 질문에 대한 AI 오버뷰 기능을 은밀히 제거한 것으로 알려졌습니다.
가디언지에 따르면, 사용자가 "간 기능 검사의 일반적인 범위는 얼마입니까?"와 같은 간 기능 검사와 관련된 질문을 검색할 때 구글은 AI가 만든 개요(AI Overview)를 개괄적인 수치로 표시했습니다.
이 정보는 연령, 성별, 인종 또는 국적과 같은 중요한 요소를 고려하지 않으며, 이는 의료 검사 결과에 큰 영향을 미칠 수 있는 변수입니다.
이는 사용자가 자신의 건강 상태를 오해하고 심지어 결과가 정상이라고 주관적으로 생각하는 위험을 내포하고 있습니다.
조사 기사가 발표된 후 가디언지는 "간 혈액 검사의 정상 범위는 얼마입니까?" 또는 "간 기능 검사의 정상 범위는 얼마입니까?"와 같은 구체적인 질문과 함께 AI 개요 결과가 더 이상 나타나지 않았다고 보도했습니다.
그러나 신문은 또한 "LFT 참조 범위" 또는 "LFT 검사 참조 범위"와 같은 다른 트라이얼의 변형이 AI로 생성된 요약을 여전히 활성화할 수 있다는 것을 발견했습니다.
가디언지가 기사를 게재한 지 몇 시간 후에 실시된 실제 테스트에서 위에 언급된 질문은 더 이상 일반적인 검색 결과에서 AI 개요를 표시하지 않았습니다.
그럼에도 불구하고 Google은 사용자가 별도의 기능인 "AI 모드"에서 이러한 질문을 함께 할 수 있도록 허용합니다.
가디언과의 인터뷰에서 구글 대변인은 회사가 검색에서 특정 결과를 제거하는 것에 대해 언급하지 않았다고 밝혔습니다.
그러나 구글은 시스템에 대한 전반적인 개선을 위해 노력하고 있다고 주장합니다. 이 대변인에 따르면, 내부 의료 전문가 그룹은 가디언이 언급한 질문을 검토했으며, 많은 경우 정보가 잘못되지 않았고 고품질 웹사이트의 지원을 받았다고 말했습니다.
그럼에도 불구하고 제거 움직임은 여전히 많은 의료 기관에서 긍정적으로 평가하고 있습니다. British Liver Trust의 홍보 및 정책 이사인 Vanessa Hebditch는 이것이 "훌륭한 소식"이라고 평가했지만 동시에 더 깊은 우려를 표명했습니다.
그녀에 따르면 문제는 몇 가지 구체적인 질문뿐만 아니라 구글이 전반적인 건강 분야에서 AI를 전반적으로 구현하는 방식에 있습니다.
Hebditch는 "구글이 시스템적 위험을 해결하지 않고 일부 개별 결과에 대한 AI 개요를 단순히 끄는 것이라면 AI로 생성된 의료 정보에 대한 우려는 여전히 남아 있습니다."라고 강조했습니다.
앞서 구글은 전문 AI 모델 업그레이드를 포함하여 의료 관련 검색 경험을 개선하기 위한 새로운 기능을 발표한 적이 있습니다.
