미국 전자 개인 정보 센터(EPIC)의 새로운 연구에 따르면 많은 AI 회사가 사용자가 개인 데이터 공유를 거부할 때 어려움을 겪도록 조작적인 디자인 전략을 적용하고 있습니다.
이 기관이 발표한 보고서에 따르면 OpenAI, Google 및 Meta와 같은 주요 언어 모델(LLM) 제공업체는 사용자의 데이터 제어 능력을 저하시키기 위해 기존 데이터 브로커와 유사한 많은 방법을 사용하는 것으로 알려져 있습니다.
EPIC는 많은 회사가 홈페이지나 보안 정책에 데이터 공유 거부 양식을 명확하게 설정하지 않았다고 밝혔습니다.
일부 플랫폼에서는 사용자가 동일한 요청에 대해 여러 개의 다른 양식을 작성하도록 요구하여 프로세스가 복잡하고 시간이 오래 걸립니다.
연구는 또한 OpenAI가 현재 사용자가 개인 데이터 판매 또는 이전을 거부할 수 있는 명확한 도구를 제공하지 않는다고 제안합니다.
대신 이 플랫폼은 주로 사용자가 ChatGPT 피드백에 나타나는 정보를 삭제하도록 요청할 수 있도록 허용합니다. 회사가 저장하고 있는 플랫폼 데이터를 삭제하는 대신에 말입니다.
EPIC에 따르면, 이 문제는 특히 우려스럽습니다. 왜냐하면 AI 기업은 현재 데이터 브로커, 광고 플랫폼 및 기술 기업과 같은 여러 당사자 간에 개인 정보가 공유될 수 있는 광대한 데이터 생태계에 참여하고 있기 때문입니다.
이 기구는 투명성을 거부하는 메커니즘의 부족이 심각한 안전 위험으로 이어질 수 있다고 경고합니다.
보고서는 상업 데이터가 위치 확인, 괴롭힘 또는 여성 및 기타 취약 계층을 표적으로 삼는 데 사용되었던 과거 사례를 인용합니다.
연구에서 EPIC는 38개의 빅데이터 회사의 개인 정보 보호 프로세스를 조사했습니다. 결과는 "조종 설계"가 널리 사용되는 많은 형태를 보여주었습니다.
일부 회사는 찾기 어려운 작은 글자 부분에서 데이터 공유를 거부하는 링크를 숨기는 것으로 알려져 있습니다. 다른 회사는 사용자에게 개인 정보 보호 권한을 행사하기 전에 계정을 만들거나 등록비를 지불하도록 요구합니다.
연구자들은 또한 X, OpenAI 또는 Tinder와 같은 플랫폼에서 사용자가 데이터 공유 거부 요청을 보내려면 먼저 계정에 로그인해야 한다는 사실을 발견했습니다.
또한 TikTok, Amazon은 개인 정보 보호 양식을 제공하지만 개인 데이터 판매를 거부할 명확한 옵션이 없는 것으로 알려져 있습니다.
데이트 앱의 경우 연구에 따르면 Bumble 사용자는 기본적으로 미리 표시된 옵션을 통해 데이터 공유에 참여하도록 선택되어 사용자에게 혼란을 줄 수 있습니다.
연구에 대한 답변으로 아마존은 회사가 고객의 개인 정보를 제3자에게 판매하지 않으므로 사용자는 기본적으로 데이터 공유 거부 작업을 수행할 필요가 없다고 밝혔습니다.
반면 OpenAI는 광고를 위한 마케팅 파트너와 제한된 데이터만 공유하고 사용자가 개인 정보 보호를 제어할 수 있는 다양한 방법을 제공한다고 주장합니다.
그러나 EPIC는 양식이 개선되더라도 사용자가 데이터를 보유한 각 회사에 개별 요청을 보내야 한다면 개인 정보를 보호하기 어려울 것이라고 주장합니다.
이 기구에 따르면 더 효과적인 해결책은 처음부터 데이터 수집을 제한하고 기업이 불필요한 개인 정보를 저장하는 것을 방지하기 위해 더 엄격한 규정을 구축하는 것입니다.
