구글 어스, ‘허위 정보’ 우려에 AI 이미지 생성 도입 하루 만에 서비스 철회
가짜 전쟁 · 자연재해 이미지 쏟아지고 진위여부 판별 어려워
구글 검색 선호 매체로 추가
최근 적극적으로 AI 도입 및 전환에 속도를 내고 있던 구글이 구글 어스(Google Earth)에 도입한 나노 바나나 인공지능(AI) 이미지 생성 기능을 출시 하루 만인 31일(현지시간)에 중단했다.
이번 구글이 선보인 나노 바나나 이미지 생성 기능은 텍스트 입력만으로 손쉽게 실제 위성 사진, 항공 사진, 3D 지도 위에 가상의 장면을 생성할 수 있는 기능이다. 구글은 해당 기능 도입과 함께 역사를 시각화해 되살리거나 착공 전 건축 계획을 준비하는 등 다양한 작업을 할 수 있게 됐다고 도입 취지를 설명했다.
하지만 기능 공개 직후 구글은 언론과 정보 연구 학계 등에서 강한 반발과 우려에 직면했다. 각종 전쟁과 자연재해처럼 사회적으로 민감한 상황을 무차별 양산해 온라인 상에 허위 정보가 퍼질 것이란 주장이었다.
실제 샘 스톡웰 앨런 튜링 연구소 선임연구원은 외신 파이낸셜타임스에 “그동안 구글 어스는 수십년간 언론인들과 조사관들이 이미지와 정보들을 검증하는 비교 기준 역할을 해왔다”며 “그 기준에 생성형 AI 도구를 넣는 것은 가짜 정보를 판별하는 데 쓰이는 척도를 오염시키는 일”이라고 말했다.
특히 AFP 통신과 BBC 등 유명 외신은 파리 에펠탑 폭발 현장, 이란 핵시설 폭격, 피라미드 붕괴, 우크라이나 키이우 시가전 등 실제 사건처럼 보이는 허위 이미지를 손쉽게 생성하는 것을 시연하며 단순 가짜 뉴스를 넘어 국제적으로도 민감한 사안의 자료를 만들 수 있다고 강조했다.
구글은 AI가 생성한 이미지에는 인간의 눈엔 보이지 않는 디지털 워터마크가 삽입되며, 제미나이 및 구글 렌즈를 통해 진위 여부를 확인할 수 있다고 설명했지만, BBC의 시연에선 스크린샷 기능 등을 사용해 검증 절차를 무력화·우회할 수 있었으며, AI 이미지 탐지 도구도 일부 이미지를 제대로 식별하지 못한 것으로 나타났다.
결국 논란이 커지자 구글은 기능 도입 후 하루가 채 지나기 전인 31일 임시 기능 철회를 공지했다.
브라이언 호로위츠(Bryan Horowitz) 구글 어스 제품 관리자는 “구글은 구글 어스를 신뢰할 수 있는 정보 플랫폼으로 많은 사용자가 애용하고 있다는 점을 잘 알고 있다”며 “지리 공간 전문가들이 기능을 유용하게 사용하는 것을 봤지만, 동시에 정책을 위반한 것으로 보이는 이미지를 공유하는 사례도 발생했다. 이에 따라 더욱 강력한 안전장치를 구현하는 동안 해당 기능을 일시적으로 중단하겠다”고 말했다.
뉴스콘텐츠는 저작권법 제7조 규정된 단서조항을 제외한 저작물로서 저작권법의 보호대상입니다. 본 기사를 개인블로그 및 홈페이지, 카페 등에 게재(링크)를 원하시는 분은 반드시 기사의 출처(로고)를 붙여주시기 바랍니다. 영리를 목적으로 하지 않더라도 출처 없이 본 기사를 재편집해 올린 해당 미디어에 대해서는 합법적인 절차(지적재산권법)에 따라 그 책임을 묻게 되며, 이에 따른 불이익은 책임지지 않습니다.
- 에디터김동욱 (jkkims@ditoday.com)
