오픈AI “AI 이미지에 라벨 달 것”

구글과 메타에 이어 챗GPT 개발사 오픈AI가 인공지능(AI)으로

생성된 이미지에 별도의 표식(label)을 달기로 결정했습니다.

이 결정은 최근 미국 팝 가수 테일러 스위프트의 딥페이크(deepfake·AI가 만든 가짜 콘텐츠)

음란 사진이 논란이 된 가운데, 가짜 뉴스 및 허위 콘텐츠의 확산을 줄이기 위한 조치입니다.

이러한 조치는 오픈AI의 책임감 있는 접근 방식의 일환으로,

인공지능이 생성한 이미지를 더욱 신뢰할 수 있도록 도와줄 것입니다.

7일(현지 시각) 오픈AI는 자사의 이미지 생성 AI 도구인

‘달리3'가 만든 이미지에 디지털 표식을 붙이기로 결정했습니다.

이에 따라 구체적으로 이미지에 콘텐츠 출처 및 진위 확인을 위한

연합(C2PA)의 워터마크를 부착할 예정입니다.

C2PA는 미디어 출처와 관련 정보 확인을 위한 개방형 기술 표준으로,

주도적으로 참여하고 있는 기업으로는 마이크로소프트(MS), 어도비, 인텔 등이 있습니다.

이러한 디지털 표식을 통해 사용자들은 이미지의 출처와 진위를 쉽게 확인할 수 있을 것입니다.

다만 오픈AI가 계획하고 있는 디지털 워터마크는 메타데이터(데이터의 구조·속성 등을 표현한 자료)

형태라 일반인이 한 눈에 알아보기는 쉽지 않다는 한계를 갖고 있다.

그러나, 이러한 워터마크는 콘텐츠 자격증명 인증과 같은 사이트에서

AI가 이미지를 생성했는지 여부를 확인할 수 있는 유용한 방식이다.

이로써 소셜미디어 그룹 메타는 인스타그램과 페이스북을 운영하며,

AI로 생성된 콘텐츠를 식별할 수 있는 표식을 게시될 것이라고 밝혔다.

또한, 구글도 자사의 AI 챗봇 서비스 바드에 이미지 생성 기능을 추가하여

구글 딥마인드가 개발한 워터마크를 적용하기로 결정하였다.

관련글