인스타그램, AI 라벨 개발 중

작성자: Jon Porter, 소비자 기술 출시, EU 기술 정책, 온라인 플랫폼 및 기계식 키보드를 다루는 5년 경력의 기자입니다.

인스타그램은 AI가 자사 플랫폼에서 콘텐츠를 생성하는 데 역할을 한 시기를 식별할 수 있는 새로운 공지를 준비 중인 것으로 보입니다.

인스타그램의 새로운 기능이 공식적으로 발표되거나 출시되기 전에 자주 발견하는 앱 연구원 Alessandro Paluzzi는 인스타그램 앱 페이지에 "창작자나 메타가 이 콘텐츠를 AI로 만들거나 편집했다고 말했습니다."라고 적힌 스크린샷을 게시했습니다. 구체적인 공지에는 이 경우 '메타 AI로 생성된' 이미지라는 점을 명시한 후 생성 AI가 무엇인지, AI를 사용한 게시물을 식별하는 방법에 대해 간략하게 설명합니다.

이번 발견은 Meta가 Google, Microsoft, OpenAI를 포함한 다른 주요 AI 플레이어와 함께 책임 있는 AI 개발을 위해 백악관에 약속한 직후에 이루어졌습니다. 사이버 보안 및 차별 연구에 투자하는 것 외에도 콘텐츠가 AI로 생성될 때 사용자에게 알리는 워터마킹 시스템을 개발하는 것도 약속 중 하나였습니다.

인스타그램의 라벨링 시스템이 얼마나 자동화될 것인지, AI가 이미지를 생성하거나 편집하는 데 사용되었는지 공개하는 사용자에게 어느 정도까지 의존할 것인지는 확실하지 않습니다. 하지만 해당 공지에 '메타가 말했다'라는 문구가 포함돼 있다는 사실은 적어도 일부 경우에는 기술회사가 사용자들의 정직성에 의존하기보다는 적극적으로 공지를 적용할 것이라는 점을 시사한다. Meta의 대변인은 해당 통지에 대해 Engadget에 대한 논평을 거부했으며 회사는 The Verge의 논평 요청에 즉시 응답하지 않았습니다.

아직 초기 단계이지만 올해 초 푹신한 재킷을 입은 교황의 사진이 소셜 미디어를 통해 입소문을 냈을 때 우리는 AI가 생성한 잘못된 정보가 어떤 모습일 수 있는지 이미 맛보았습니다. 이 경우 상대적으로 무해한 이미지는 결국 거짓임이 밝혀졌지만 위성 이미지와 정치 사진에 적용하면 위험한 잘못된 정보를 퍼뜨릴 수 있는 간단한 도구가 이제 존재한다는 경고로 간주되었습니다.

Meta는 최근 대규모 언어 모델인 LLaMA 2를 오픈소스로 공개했지만 아직 Instagram과 같은 제품을 위한 소비자 지향 생성 AI 기능을 널리 출시하지 않았습니다. 그러나 우리는 그것이 개발 중인 기능의 종류에 대한 몇 가지 힌트를 얻었습니다. 지난 6월 전체 회의에서 마크 주커버그 CEO는 메타가 인스타그램 스토리의 사진을 수정하기 위해 텍스트 프롬프트를 사용하는 등의 기능을 개발 중이라고 밝혔으며, 앱 연구원인 팔루치(Paluzzi)도 인스타그램용 "AI 브러시" 기능의 징후를 발견했다고 밝혔습니다. 이미지의 "특정 부분을 추가하거나 교체"합니다. 파이낸셜타임스는 최근 메타가 AI 챗봇 '페르소나' 기능을 이르면 다음 달 자사 제품에 통합할 수 있다고 보도했다.

메타 외에도 Google은 이미지가 AI로 생성되었는지 여부를 사용자가 더 쉽게 확인할 수 있는 새로운 도구를 이미 발표했습니다. "이 이미지 정보" 기능은 올 여름에 출시될 예정이며, 검색 대기업이 이미지를 색인화한 첫 번째 위치를 강조하여 이미지의 출처에 대한 중요한 단서를 제공하도록 설계되었습니다.

/ Verge Deals에 가입하시면 우리가 테스트한 제품에 대한 특가를 매일 받은 편지함으로 보내드립니다.