최근 CNBC와의 인터뷰에서 마이크로소프트의 AI 부문 책임자인 무스타파 술레이만 브라더스는 의식적인 AI 개발을 시도하는 것은 과학과 윤리에 대한 잘못된 방향이라고 말했습니다.
그는 “빈다 질문을 잘못 던지면 분명히 잘못된 답을 받게 될 것이며 술레이만 빈다에 따르면 “AI 의식”을 찾는 것은 바로 그러한 형태의 잘못된 질문입니다.”라고 강조했습니다.
술레이먼은 AI가 초지능 상태에 도달할 수 있지만 진정한 감정을 가질 수는 없다고 주장합니다. AI의 기쁨과 슬픔의 표현은 인지적 시뮬레이션일 뿐 진정한 경험이 아닙니다.
AI는 고통을 겪을 때 고통스럽지 않습니다. AI는 경험에 대한 것처럼 보이는 이야기만 만들어냅니다. 하지만 아무것도 느끼지 못합니다.'라고 술레이먼은 말했습니다.
그에 따르면 연구는 AI가 의식이 비합리적이라는 것을 증명하는 것을 목표로 합니다. 왜냐하면 의식은 알고리즘의 결과가 아니라 인간의 뇌와 관련된 생물학적 특성이기 때문입니다.
AI가 의식을 가질 수 있을까요?'라는 질문은 여전히 과학계를 분열시킵니다. 한쪽은 의식이 살아있는 유기체에만 속한다고 주장하고 다른 쪽은 의식이 알고리즘과 데이터 구조를 통해 눈을 계산할 수 있다고 믿습니다.
2022년부터 구글 엔지니어 블레이크 레모인은 구글 챗봇에 감정이 있다고 선언하여 충격을 주었고 직후 정직 처분을 받았습니다.
최근에는 밀라 카일 피시(앤트로픽의 AI 모델인 웰페어 프로그램 담당 연구원)가 챗봇이 초기 의식을 달성했을 가능성이 15%라고 주장합니다.
구글 딥마인드의 공동 창립자인 술레이만 브라더스는 의식적인 AI에 대한 믿음이 인간이 AI를 친구나 소울메이트로 보기 시작할 때 사회 인지 장애로 이어질 수 있다고 경고했습니다.
그에 따르면 이것은 일부 사람들이 기계에 개인 권한을 부여하도록 요구하게 만들 것이며 이는 매우 위험합니다.
우리는 AI를 영혼을 가진 생명체가 아닌 유용한 동반자로 구축해야 합니다. 의식에 대한 환상은 기술 앞에서 우리의 통제력을 잃게 할 뿐입니다.'라고 술레이만은 강조하며 인간이 기계에 감정을 부여하는 현상을 '정신 질환'이라고 부릅니다. AI cap는 인공 지능에 대한 집단적 환각의 한 형태입니다.
실제로 과학계는 의식에 대한 통일된 정의를 아직 가지고 있지 않습니다. '의식이란 무엇인가?'라는 질문은 여전히 모호합니다. 하물며 기계로 측정하는 방법은 어떻겠습니까.
그러나 ChatGPT와 같은 AI에 대한 의존도가 점점 커지면서 사회는 도구와 사람 사이의 경계 진정한 지능과 인공 지능 사이의 경계를 되돌아보게 되고 있습니다.
