구글은 사용자들이 "위험하고 놀라운" 상황이라고 표현하며 건강에 위험을 초래하는 정보라고 신고한 후, AI 생성 요약 중 일부를 삭제했습니다.

구글이 AI가 생성한 건강 정보 요약 중 일부를 삭제했습니다. 가디언의 조사 결과 허위 및 오해의 소지가 있는 정보가 사람들을 위험에 빠뜨린 것으로 드러났기 때문입니다.

구글은 생성형 AI를 활용해 특정 주제나 질문에 대한 빠른 요약을 제공하는 'AI 개요'를 "유용하고" "신뢰할 수 있는" 기능이라고 설명합니다. 그러나 검색 결과 상단에 나타나는 이러한 요약 중 일부는 사용자에게 해를 끼칠 수 있는 부정확한 건강 정보를 제공했습니다.

전문가들이 "위험하고" "우려스럽다"고 지적한 한 사례에서, 구글은 주요 간 기능 검사에 대한 잘못된 정보를 제공했습니다. 이로 인해 심각한 간 질환을 가진 사람들이 자신이 건강하다고 오해할 수 있습니다. 가디언은 "간 혈액 검사의 정상 범위는 무엇인가"를 검색했을 때, 구글이 국적, 성별, 인종, 나이와 같은 요소를 고려하지 않은 채 맥락이 거의 없는 숫자 목록을 제시하는 것을 발견했습니다.

전문가들은 구글 AI 개요가 정상이라고 표시한 내용이 실제 의학 기준과 극적으로 다를 수 있다고 경고했습니다. 이로 인해 중증 환자들이 자신의 검사 결과가 괜찮다고 생각하고 중요한 후속 진료 예약을 건너뛸 수 있습니다.

조사 후 구글은 "간 혈액 검사의 정상 범위는 무엇인가"와 "간 기능 검사의 정상 범위는 무엇인가"라는 검색어에 대한 AI 개요를 삭제했습니다.

구글 대변인은 "검색 내 개별 삭제 사항에 대해서는 논평하지 않는다"며 "AI 개요가 일부 맥락을 놓치는 경우 광범위한 개선 작업을 진행하며, 필요에 따라 정책에 따라 조치를 취한다"고 말했습니다.

영국 간 신뢰 기구의 커뮤니케이션 및 정책 책임자인 버네사 헤브디치는 삭제 조치를 환영하면서도 지속적인 우려를 표명했습니다. 그는 "이것은 훌륭한 소식이며, 이러한 경우 구글 AI 개요가 삭제된 것을 기쁘게 생각한다"며 "그러나 질문을 다르게 하면 여전히 오해의 소지가 있는 AI 개요가 나타날 수 있으며, 다른 AI 생성 건강 정보도 부정확하고 혼란스러울 수 있다는 점을 우려한다"고 말했습니다.

가디언은 원래 검색어의 약간의 변형(예: "lft 기준 범위" 또는 "lft 검사 기준 범위")도 여전히 AI 개요를 트리거한다는 사실을 발견했습니다. 헤브디치는 이 점이 우려된다고 말했습니다. 그는 "간 기능 검사는 다양한 혈액 검사의 모음이다. 결과를 이해하는 것은 일련의 숫자를 비교하는 것 이상을 포함한다"며 "AI 개요는 굵은 글씨로 목록을 제시하여 독자들이 이 숫자가 자신의 검사와 관련이 없을 수도 있다는 점을 놓치기 쉽다. 또한 심각한 간 질환이 있어도 정상 결과가 나올 수 있으며 추가 치료가 필요하다는 경고를 하지 않는다. 이러한 잘못된 안심은 매우 해로울 수 있다"고 설명했습니다.

글로벌 검색 시장의 91%를 점유하고 있는 구글은 가디언이 제공한 새로운 사례를 검토 중이라고 밝혔습니다.

헤브디치는 "더 큰 우려는 이것이 단일 검색 결과만을 해결하며, 구글이 해당 질의에 대해 AI 개요를 간단히 끌 수는 있지만 건강 정보에 대한 AI 개요의 더 큰 문제를 해결하지는 못한다는 점"이라고 덧붙였습니다.

환자 정보 포럼의 의장인 수 패링턴도 삭제 조치를 환영하면서도 유사한 우려를 공유했습니다. 그는 "이것은 좋은 결과이지만, 구글의 건강 관련 검색 결과에 대한 신뢰를 유지하는 데 있어 매우 첫 번째 단계일 뿐이다. 구글 AI 개요가 사람들에게 부정확한 건강 정보를 제공하는 사례가 여전히 너무 많다"고 말했습니다.

패링턴은 전 세계 수백만 성인이 이미 신뢰할 수 있는 건강 정보에 접근하는 데 어려움을 겪고 있다고 지적했습니다. "그렇기 때문에 구글이 사람들을 견고하고 연구된 건강 정보로 안내하는 것이 매우 중요하다"고 그는 말했습니다.

AI 개요는 구글에 제기된 가디언의 다른 원래 사례에 대해서도 계속 나타나고 있습니다. 여기에는 전문가들이 "완전히 틀렸다"고 "정말 위험하다"고 말한 암과 정신 건강에 대한 요약이 포함됩니다.

이러한 AI 개요가 삭제되지 않은 이유에 대해 구글은 잘 알려지고 평판이 좋은 출처에 연결되며 전문가의 조언을 구하는 것이 중요한 경우 사용자에게 조언한다고 밝혔습니다.

구글 대변인은 "내부 임상의 팀이 공유된 사례를 검토한 결과 많은 경우 정보가 부정확하지 않으며 고품질 웹사이트에서 지원받고 있다는 사실을 발견했다"고 말했습니다.

퓨처리즘의 시니어 에디터 빅터 탕거만은 가디언의 조사가 구글이 "AI 도구가 위험한 건강 오정보를 유포하지 않도록 하기 위해 아직 할 일이 남아 있음"을 보여준다고 말했습니다.

구글은 AI 개요가 응답 품질에 대해 높은 신뢰도를 가진 질의에만 나타난다고 밝혔습니다. 회사는 또한 많은 정보 범주에 걸쳐 요약의 품질을 지속적으로 측정하고 검토한다고 덧붙였습니다.

검색 엔진 저널의 시니어 작가 맷 서던은 "AI 개요는 순위가 매겨진 검색 결과 위에 나타난다. 주제가 건강일 때 오류는 더 큰 무게를 가진다"고 지적했습니다.



자주 묻는 질문
물론입니다. 위험하다고 지적된 AI 생성 검색 요약에 대한 구글의 삭제 조치와 관련된 FAQ 목록입니다.



초보자 수준 질문




1. 구글 AI 검색 요약에 무슨 일이 있었나요?


구글은 최근 사용자들이 특히 건강 관련 질문에 대해 조언이 잘못되고 잠재적으로 해로울 수 있는 사례를 공유한 후 검색 결과에서 AI 생성 답변 일부를 삭제했습니다.




2. 구글 검색의 AI 개요란 무엇인가요?


이는 구글이 Gemini AI를 사용하여 검색 결과 상단에 간결한 요약 답변을 생성하는 새로운 기능으로, 여러 링크를 클릭할 필요 없이 웹사이트에서 정보를 가져옵니다.




3. 어떤 위험한 답변이 제공되었나요?


널리 공유된 몇 가지 사례에는 AI가 사용자에게 피자 소스에 접착제를 추가하여 더 끈적이게 하거나 돌을 먹는 것이 유익하다고 제안하는 것이 포함되었습니다. 건강 관련으로는 하루에 몇 개의 돌을 먹어야 하는지와 같은 명백히 안전하지 않은 잘못된 조언을 제공했습니다.




4. AI가 왜 그렇게 기이한 답변을 제공했나요?


AI 모델은 때때로 웹의 저품질 풍자나 농담 콘텐츠를 사실 정보로 오해할 수 있습니다. 이들은 실제 세계에 대한 이해나 상식이 없어 조언이 위험하다는 것을 알지 못합니다.




5. 구글이 문제를 해결했나요?


구글은 신고된 특정 부정확한 AI 개요를 삭제했으며 이러한 종류의 오류를 방지하기 위해 기술적 개선을 하고 있다고 말합니다. 그러나 AI 환각의 핵심 과제는 지속적인 문제입니다.




고급/실용적 질문




6. 이것이 검색에서 AI의 미래에 무엇을 의미하나요?


이는 AI 기반 검색의 주요 장애물인 속도와 편의성과 정확성 및 안전성의 균형을 강조합니다. 이 사건은 전체 출시를 늦추고 더 많은 인간 감독, 더 엄격한 안전 장치 및 더 나은 출처 검증을 강요할 가능성이 높습니다.




7. AI 개요가 신뢰할 수 있는지 어떻게 알 수 있나요?


출처를 확인하세요: 요약 옆에 있는 작은 화살표를 클릭하여 어떤 웹사이트에서 정보를 가져왔는지 확인하세요. 평판이 좋은 사이트인가요?
상식적으로 생각하세요: 답변이 이상하거나 충격적이거나 복잡한 주제에 대해 너무 단순해 보인다면 그럴 가능성이 높습니다.
요약에서 멈추지 마세요: 특히 건강, 재정 또는 법률 정보의 경우 항상 연결된 출처를 참조하거나 추가 조사를 하세요.




8. 검색 결과에서 AI 개요를 끌 수 있나요?


현재 보편적인 켜기/끄기 기능은 없습니다.