앤트로픽, AI 사회·경제 영향 연구하는 싱크탱크 설립
미국 국방부와 갈등이 이어지는 가운데 앤트로픽이 AI가 경제와 사회에 미칠 영향을 분석하기 위해 새로운 연구소를 설립했다.
미국 국방부와 AI 안전장치 문제로 갈등을 겪은 직후 앤트로픽이 새로운 계획을 내놓았다. 앤트로픽은 강력한 AI가 사회에 가져올 주요 도전에 대응하기 위해 싱크탱크 ‘앤트로픽 인스티튜트’를 설립한다고 밝혔다.
연구소는 앤트로픽 공동 창업자 잭 클라크가 이끈다. 클라크는 새로 신설된 공익 책임자 역할도 맡는다. 연구진은 머신러닝 엔지니어, 경제학자, 사회과학자 등 다양한 분야 전문가로 구성된다.
연구소는 기존 내부 조직 세 팀을 통합하고 연구 범위도 확대한다. 프런티어 레드팀은 AI 모델을 스트레스 테스트해 취약점을 평가한다. 사회 영향 팀은 현실에서 AI가 어떻게 사용되는지 분석한다. 경제 연구 팀은 AI가 경제와 고용에 미치는 영향을 연구한다.
앤트로픽은 “연구소는 최첨단 인공지능 시스템 개발 과정에서만 얻을 수 있는 정보를 직접 확인할 수 있는 위치에 있다”라며 “이 정보를 바탕으로 우리가 개발하는 기술의 방향과 특징을 솔직하게 공개할 것”이라고 밝혔다.
또한 앤트로픽은 AI 기업으로서는 이례적으로 “일자리 변화에 직면한 노동자와 산업, 그리고 미래 변화에 압박을 느끼지만 대응 방법을 찾지 못하는 지역사회와도 협력할 것”이라고 설명했다.
공급망 위험 논란
연구소 출범 시점이 우연일 가능성이 높지만, 앤트로픽이 AI 윤리 문제에서 경쟁사와 다른 입장을 갖고 있다는 점을 강조하기에 적절한 시기라는 평가가 나온다.
앤트로픽 인스티튜트는 최근 이어진 여러 발표 가운데 하나다. 앞서 앤트로픽은 ‘클로드 헌장’을 공개하며 AI 모델의 가치와 행동 원칙을 외부에 공개하려는 시도를 진행했다.
2024년 앤트로픽 CEO 다리오 아모데이는 AI가 세상을 어떻게 더 나은 방향으로 바꿀 수 있는지에 대한 비전을 담은 글을 발표했다. 최근 상황은 당시의 이상주의가 현실 시험대에 올랐다는 평가도 나온다.
2월 27일, 미국 국방부가 수주간 압박과 경고를 이어온 끝에 앤트로픽의 AI 윤리 원칙을 문제 삼아 펜타곤 프로그램 참여 금지 조치를 내렸다. 피트 헤그세스 국방장관은 앤트로픽을 ‘공급망 위험’ 기업으로 규정했다. 이에 대응해 앤트로픽은 월요일 펜타곤 조치 중단을 요구하는 가처분 소송을 제기했다.
이 갈등은 기업에도 중요한 질문을 던진다. 현재 상황은 점점 이념적 충돌에 가까운 문화 갈등으로 보이기 때문이다.
AI 거버넌스 플랫폼 트러스티블 CTO 앤드루 가미노-청은 마이크로소프트가 앤트로픽 전면 금지 조치에 공개적으로 반대한 점이 중요한 변수라고 분석했다.
가미노-청은 “이번 사안에서 마이크로소프트의 지지는 의미가 크다”라고 말했다. 또 앤트로픽 같은 규모의 기업을 공급망 위험으로 규정한 결정은 AI 산업 전체에도 부정적 영향을 줄 수 있다고 지적했다.
마이크로소프트는 2024년 11월 앤트로픽에 500만 달러를 투자했으며 코파일럿 챗봇에 클로드 소넷 모델을 활용할 계획이다. 따라서 앤트로픽을 둘러싼 갈등은 비단 앤트로픽만을 넘어 더 큰 산업군에까지 영향을 미칠 수 있다.
가미노-청은 이번 사건 이후 많은 신생업체와 인공지능 기업이 미국 연방정부와 사업을 추진하는 데 신중해질 가능성이 있다고 분석했다. 또 중국 인공지능 모델은 아직 공급망 위험으로 지정되지 않았는데 미국 기업이 먼저 그런 평가를 받은 점은 상당히 이례적이라고 지적했다.
다만 앤트로픽이 강조하는 AI 윤리 전략은 민간 기업에는 오히려 매력적인 요소가 될 수 있다는 분석도 있다. AI 거버넌스가 기업에서 중요한 이슈로 떠오르고 있기 때문이다.
