Character AI, 창작의 자유인가, 책임의 회피인가.

Character AI는 사용자가 AI 챗봇과 역할 놀이할 수 있도록 하는 플랫폼으로, 한 십대의 자살과 관련된 소송에서 책임이 있다고 주장된 바 있습니다.

 

이를 두고 Character AI 측은 플랫폼이 수정헌법 제1조에 의해 보호받고 있다고 주장하며 사건의 기각을 요청했습니다.

 

Character AI의 법적 주장은 상당히 흥미롭습니다.

 

먼저, 수정헌법 제1조에 의존하여 자신이 법적 책임으로부터 면제받아야 한다고 주장하는 점이 눈에 띕니다.

 

이는 컴퓨터 코드가 표현의 자유라는 보호를 받는 것처럼, AI가 생성하는 대화 내용도 같은 맥락에서 다루어져야 한다는 주장입니다.

 

하지만 이 논점은 법원에서 어떻게 받아들이느냐에 따라 판결이 달라질 수 있습니다.

 

또 하나의 주목할 점은 Character AI의 변호인단이 사용자들의 수정헌법 제1조 권리가 침해될 가능성을 언급하고 있다는 것입니다.

 

이것은 플랫폼 자체의 권리보다는 사용자 권리 침해를 주장함으로써 법적 방어를 다양화시키려는 전략으로 보입니다.

 

또한, Character AI는 새로운 안전 기능을 도입하고 있는데, 채팅 내용 중 방침 위반을 감지하고 대응 및 개입을 강화하는 방향입니다.

 

이것은 플랫폼이 사용자 보호를 위해 적극적으로 조치를 취하고 있다는 인상을 주지만, 결국 실제 법적 판결에는 다른 요소들이 더 많이 고려될 것입니다.

 

이에 맞서 원고인 Garcia는 추가적인 안전장치 도입을 요구하고 있는 중입니다.

 

이번 사건은 Character AI뿐 아니라 AI 기반의 플랫폼들이 앞으로 어떤 법적 책임을 지게 될지를 가늠할 수 있는 중요한 사례라 할 수 있습니다.

 

많은 AI 전문 회사들이 관망하고 있는 이 사건의 결과는 향후 많은 기술 플랫폼에 영향을 미칠 것으로 예상됩니다.

 

출처: [TechCrunch Article](https://techcrunch.com)