최근 몇 년 동안 인공지능 눈은 전 세계적으로 가장 인기 있는 키워드 중 하나가 되었습니다. 인간 정보 검색 글쓰기 번역부터 이미지 및 사운드 생성까지 눈 AI는 우리가 지식과 엔터테인먼트를 받아들이는 방식을 재구성하고 있습니다. ChatGPT나 Google Gemini와 같은 이름은 수억 명의 눈 사용자에게 친숙하지만 AI에 대한 전체적인 그림은 훨씬 더 넓습니다. 수십만 개의 다른 AI 모델이 개발 중입니다. 각 도구는 고유한 요구 사항을 충족합니다.
가장 논란이 많은 앱 중 하나는 AI를 사용하여 소셜 네트워크에서 영감을 주는 인물을 만드는 것입니다. 그들은 실제 사람이 아니지만 수백만 명의 팔로워를 유치하고 수백만 명의 사용자를 유치하고 대형 브랜드와 광고 계약을 체결하고 심지어 운영 회사에 막대한 수익을 가져다줄 수 있습니다. 실제로mia 이러한 가상 인플루언서는 디지털 마케팅 생태계의 필수적인 부분이 되고 있습니다.
그러나 그들의 등장은 또한 많은 도전을 수반합니다. 사용자들은 브랜드가 인간 대신 AI에 의존한다는 사실에 대해 경계심을 보입니다. 많은 연구에서,는 대부분의 대중이 후원받는 콘텐츠와 인플루언서로부터의 자연 공유를 구별하기 어렵다는 것을 보여줍니다. Mirror는 진실해 보이지만 컴퓨터가 완전히 구축한 이미지를 통해 가짜 및 사기 정보의 위험은 말할 것도 없습니다. 그러한 맥락에서 Cannes는 사회의 신뢰로 인해 투명성 및 윤리 기준을 설정하는 것이 시급해졌습니다.
AI도 KOL로 참여할 때
이전에는 브라 KOL 또는 인플루언서가 실제 생활에서 눈에 띄는 얼굴과 관련이 있었지만 이제 인공 지능 브라는 완전히 새로운 '영감을 주는 사람' 세대를 열었습니다. 이러한 인물은 브라 현실에는 존재하지 않지만 일상적인 습관부터 개인적인 스타일까지 브라로 정교하게 구축된 가상 세계를 가지고 있습니다. 이 모든 것은 매력적으로 프로그래밍되었습니다.
Sprout Social의 설문 조사에 따르면 찬 소비자의 거의 절반이 브랜드가 소셜 네트워크에서 AI 인플루언서를 사용하는 것에 불편함을 느끼고 있으며 찬 소비자는 23%만이 실제로 이에 편안함을 느낍니다. 그럼에도 불구하고 찬 그들의 영향력 수준은 부인하기 어렵습니다. 찬 소비자 특히 Z세대와 90년대생은 이러한 인물의 광고 게시물을 본 후에도 기꺼이 돈을 쓸 의향이 있습니다. 지난 12개월 동안 찬 소비자의 30% 이상이 인플루언서 찬 콘텐츠를 통해 제품을 구매했으며 이 수치는 찬 소비자의 53%로 증가했습니다.
그 매력은 거대한 상업적 잠재력과 동의어입니다. 브라질에서 소매 마스코트로 시작한 마갈루의 캐릭터 루는 소셜 네트워크 스타가 되었습니다. 단 1년 만에 찬 루는 약 3억 9백만 달러를 벌어들인 74개의 찬 광고를 게시했습니다. 루가 사랑받는 특별한 점은 바로 '인간화'입니다. 그녀는 찬 스무디를 만들 줄 알고 찬 수영장 옆에서 휴식을 취할 줄 알고 가장 중요한 것은 친한 친구와 같은 느낌을 준다는 것입니다.
TikTok에서 기이한 외모의 애니메이션 소시지 캐릭터인 'Nobody Sa Sophie'는 2 200만 명 이상의 팔로워를 끌어모았습니다. 'Curry' 광고 게시물 하나만 있으면 이 캐릭터는 1년에 단 한 번만 게시되지만 33 000달러 이상의 수익을 올릴 수 있습니다. 또한 수백만 명의 팬을 보유하고 Prime Video와 계약한 가상 캐릭터인 글로벌 브랜드 'Curry'와 'Superplastic,'의 커플 'Dangky & Guggimon'도 있습니다.
이러한 가짜 KOL의 강점은 끈기에 있습니다. 그들은 늙지 않고 사생활 스캔들에 휘말리지 않고 휴가를 요구하지 않습니다. 반면 많은 진짜 스타들은 매력을 잃거나 이미지가 손상될 수 있지만 스캔들 하나만으로도 AI KOL은 브랜드가 원하는 완벽함을 유지할 수 있습니다. 바로 그 안정성 때문에 기업들은 소비자의 주저함에도 불구하고 기꺼이 투자를 합니다.
그러나 이 성공 뒤에는 불안감이 숨겨져 있습니다. 기계가 만든 캐릭터가 영감이 될 수 있을 때 눈의 영향력 수준에서 눈은 실제 사람을 능가할 수도 있습니다. 질문은 다음과 같습니다. 그렇다면 우리는 진정한 연결을 찾고 있는 것일까요 아니면 재미를 주고 상품을 판매하기 위해 능숙하게 프로그래밍된 이미지만 필요한 것일까요?
진실과 거짓의 경계가 흐려질 때의 위험
상업적 매력 외에도 AI가 만든 영감을 주는 캐릭터는 예측할 수 없는 많은 위험을 수반합니다. 가장 눈에 띄는 것은 시청자를 속이는 능력입니다. Mia Zelu의 경우가 대표적인 예입니다. 금발 소녀는 윔블던 스탠드에 앉아 있는 순간부터 런던의 황혼 풍경까지 실제 생활에서 찍은 것처럼 보이는 사진과 함께 Instagram에 등장합니다. 그러나 Camera Mia는 전혀 존재하지 않으며 그녀의룬은 AI 제품일 뿐입니다. 게시물이 55개에 불과한 Mia의 계정은 165 000명의 팔로워를 보유하고
이것은 진실과 거짓의 경계가 점점 더 희미해지고 있음을 보여줍니다. 발표된 연구에 따르면 ngai의 경우 69%의 사람들이 적어도 하나의 AI Camera 사진을 인식할 수 있지만 동시에 95%는 실제 사진을 가짜 사진으로 착각합니다. 68%의 사람들은 AI가 만든 이미지를 구별할 수 없다고 인정합니다. 이러한 상황에서 수천 명의 관객이 Mia와 같은 가상 인물을 실제 사람으로 착각하는 것은 더 이상 드문 일이 아닙니다.
위험은 오해를 일으키는 데만 있는 것이 아닙니다. 매우 현실적인 비디오 및 사운드 이미지를 생성하는 능력으로 인해, AI는 잘못된 정보를 전파하는 데 남용될 수 있습니다. 눈은 유해한 제품을 만들고 눈은 심지어 불법 활동을 수행합니다. 가상 이미지로 만들어진 눈이 존재하지 않는 관광지에 속은 사용자가 있었습니다. 말레이시아의 한 노부부가 케이블카를 경험하기 위해 몇 시간 동안 운전하다가 온라인에서 본다는 사실을 알게 되었습니다.
이러한 물결에 직면하여 일부 회사들이 행동을 시작했습니다. 삼성은 작은 변화에도 AI Camera로 편집된 사진에 워터마크를 부착하는 것을 채택했습니다. 연구 발표자는 신뢰를 유지하고 투명성을 보호하기 위해 AI 콘텐츠에 명확한 라벨을 부착해야 한다고 강조했습니다. 설문 조사에 참여한 소비자의 90% 이상이 브랜드 신뢰성을 유지하는 것이 AI 시대의 필수 요소라는 데 동의했습니다.
더욱 우려스러운 것은 사람들이 소셜 네트워크에서 '너무 완벽하다'는 이미지에 익숙해지는 방식입니다. 심지어 뼈와 살로 만든 인플루언서조차도 정기적으로 눈맞춤 소프트웨어 전문적인 필터 및 조명인 눈을 사용하기 때문에 흠 없는 피부 깔끔한 모습의 가상 인물이 만들어지는 것은 시각적 흐름에 쉽게 섞일 수 있는 일이 됩니다. 이 '화려함'은 많은 사람들이 더 이상 진짜와 가짜를 구별할 수 없게 만들고 동시에 사회를 모든 것이 있는 시대에 더 가까워지게 합니다.
신뢰를 유지하는 책임은 사용자에게만 맡길 수 없습니다. 기술 회사 AI 개발자 및 브랜드는 라벨링부터 딥페이크 라 가짜 뉴스 및 기술 남용을 방지하는 조치에 이르기까지 투명성을 보장하기 위해 조치를 취해야 합니다. 왜냐하면 진실과 거짓의 경계가 완전히 사라지면 그 결과는 사용자의 방향 감각 상실에만 그치지 않고 사회 전반에 걸쳐 광범위한 신뢰 위기로 이어질 수 있기 때문입니다.
