제미나이 Gemini 역인종차별 논란?

제미나이

제이나이(Gemini)는 구글에서 만든 인공지능 모델로 얼마 전 제미나이 1.5프로가 공개되어 제가 포스팅한 적이 있습니다.

제미나이 1.5 프로 글 ↓ ↓ ↓

https://sharemueomom.tistory.com/36

제미나이 1.5 공개 컨텍스트 윈도우 대폭 확대, 100만 토큰

제미나이는(별명:젬민이) 텍스트, 이미지, 오디오, 동영상, 코드 등 다양한 정보를 이해하고 처리하는 멀티모달로 설계되어 있는데, 이미지 생성 결과물에 대한 역인종차별 논란이 있어 관련 내용을 가져왔습니다.

 

제미나이 역인종차별 논란

프란치스코 교황 (출처 : 구글)

여러분은 교황이라고 하면 어떤 이미지가 떠오르시나요? 요즘분들은 프란치스코 교황을, 좀 더 연세가 있는 분들이라면 베네딕토 16세를 떠올리실 겁니다. 정확한 얼굴은 생각 안나도 보편적으로 떠오르는 흰머리의 백인 할아버지 이미지가 있습니다.

제미나이가 제작한 교황 이미지 (출처 : X, Frank J. Fleming)

 

이 이미지는 구글 제미나이가 생성한 교황의 이미지 입니다. 보통 사람들이 갖고 있는 보편적인 이미지와 많이 다른 것을 알 수 있습니다. 구글 이미지 검색에 '교황'을 검색해도 현 프란치스코 교황의 이미지가 가장 많이 뜨는데 참 의아합니다.

 

1820년 독일 커플 (출처 :  X, kache)

이 이미지는 X(구 트위터)의 한 유저가 만든 1820년 독일 커플의 이미지 입니다. 물론 그 당시 독일에 흑인이나 동양인이 아예 없진 않았겠지만... 동양인과 흑인 커플이 그 당시 독일에 흔한 일은 아니었을 텐데 두 번째 이미지를 생성했습니다.

이처럼 구글 제미나이의 이미지 생성에는 역인종차별적인, 역사와 다른 이미지가 결과물로 나오고 있어 논란입니다.

 

여기서 잠깐 인종차별과 역인종차별에대해 간략히 설명하겠습니다.

인종차별은 특정 인종에 대한 편견이나 차별을 기반으로 하는 행동 또는 태도를 의미합니다. 특정 인종을 다른 인종보다 우월하거나 열등하다고 생각하고 차별하는 것으로 이는 개인, 기관, 사회 전체에서 나타날 수 있습니다. 요즘은 인종차별주의자를 대놓고 비난하는 분위기로 영화에서도 이런 부분을 염두하여 다양한 인종의 배우를 채용하는 등 많은 노력을 기울이고 있습니다.

역인종차별은 소수 인종에 대한 차별을 해소하기 위해 다수 인종에게 불이익을 주는 정책 또는 행위를 의미합니다. 소수 인종에게 특별한 우대를 제공하여 오히려 다수의 인종이 불이익을 얻거나, 역사적 사실과 다른 인종의 묘사 등도 이에 해당합니다. 요즘 디즈니에서 제작하는 영화들이 일종의 역차별로 여기며 논란이 되었습니다. (ex : 흑인 인어공주)

구글의 대응

이런 논란이 거세지자 구글은 이미지 생성기능을 일시적으로 중단한 상태입니다.

제미나이에게 이미지 생성 관련 질문을 하자 내놓은 답변

예상으로는 인종차별을 막기 위해 추가적으로 어떤 장치를 했는데 그게 과하게 적용된 것 같습니다. 구글에서도 이를 시인하고 해결하기 위해 노력 중이라고 하니 기다리면 더 나은 결과물을 만나볼 수 있을 겁니다.

 

인공지능의 발전에 따라 다양한 해프닝이 생기고 있습니다. 발전과 안정화의 과정이라 생각합니다.

이상 뭐맘이었습니다.