또 다른 안전 연구원이 'AGI 준비' 팀 해체를 이유로 OpenAI를 그만둠

또 다른 안전 연구원이 'AGI 준비' 팀 해체를 이유로 OpenAI를 그만두었습니다.
안전 연구원인 Rosie Campbell이 OpenAI를 떠난다고 발표했습니다.
Campbell은 OpenAI가 안전에 집중하는 팀을 해체했기 때문에 그만둔 것이라고 말했습니다.
그녀는 올해 회사를 떠난 안전에 집중하는 OpenAI 연구원 중 최신입니다.

OpenAI의 정책 연구원인 Rosie Campbell은 토요일에 Substack에 올린 게시물에서 회사에서의 마지막 주를 마쳤다고 말했습니다.

그녀는 10월에 AGI Readiness 팀을 이끌던 수석 정책 고문인 Miles Brundage가 사임하면서 그녀의 사임이 촉발되었다고 말했습니다. 그가 사임한 후 AGI Readiness 팀은 해체되었고, 팀원들은 회사의 여러 부문으로 흩어졌습니다.

AGI Readiness 팀은 언젠가는 인간 지능과 동등하거나 능가할 수 있는 인공 지능의 이론적 버전인 AGI를 안전하게 관리할 수 있는 전 세계의 역량에 대해 회사에 조언했습니다.

Campbell은 게시물에서 Brundage가 사임한 이유에 공감하며, 전체 산업에 영향을 미치는 문제를 해결할 수 있는 더 많은 자유를 원한다고 언급했습니다.

그녀는 "저는 항상 안전하고 유익한 AGI를 보장하는 사명에 강한 의지를 가지고 있었고, Miles가 사임하고 AGI Readiness 팀이 해체된 후에는 외부에서 이를 더 효과적으로 추진할 수 있을 것이라고 믿습니다."라고 적었습니다.

그녀는 OpenAI가 여전히 연구, 특히 중요한 안전 연구의 최전선에 있다고 덧붙였습니다.

"저는 여기에서 일하는 동안 위험한 역량 평가, 디지털 지각, 거버넌스 에이전트 시스템과 같은 프런티어 정책 문제에 대해 일했고, 회사가 혁신적 AI의 가능성을 진지하게 받아들일 때 중요해지는 소홀히 여겨지고 약간 이상한 종류의 정책 연구를 지원해줘서 정말 기쁩니다."

하지만 작년에 그녀는 회사 궤적의 "일부 변화에 불안함을 느꼈다"고 말했습니다.

9월에 OpenAI는 원래 인공 일반 지능을 만드는 데 전념하는 비영리 단체로 시작한 지 거의 10년 만에 거버넌스 구조를 변경하고 영리 기업으로 전환한다고 발표했습니다.

일부 전직 직원은 이러한 움직임이 제품을 보다 공격적으로 출시하기 위해 인류에게 이로운 방식으로 기술을 개발한다는 회사의 사명을 훼손한다고 의문을 제기했습니다. 6월 이후 회사는 영업 직원을 약 100명 늘려 비즈니스 고객을 확보하고 AI에 대한 "패러다임 전환"을 활용했다고 영업 책임자가 The Information에 말했습니다.

OpenAI의 CEO 샘 알트먼은 이러한 변화가 회사가 목표를 달성하는 데 필요한 자금을 확보하는 데 도움이 될 것이라고 말했습니다. 여기에는 인류에게 이로운 인공 일반 지능 개발이 포함됩니다.

알트먼은 5월 하버드 비즈니스 스쿨 인터뷰에서 "간단히 말해서 우리는 우리가 유치할 수 있다고 생각했던 것보다 훨씬 더 많은 자본이 필요했습니다. 우리는 생각했고, 노력했지만 비영리 단체로서 유치할 수 있는 것보다 더 많은 자본이 필요했습니다."라고 말했습니다.

그는 최근 AI 안전에 대한 산업 표준을 설정하는 것이 OpenAI의 전적인 책임이 아니라고 말했습니다.

그는 일요일에 방영된 섀넌 브림과 함께한 Fox News Sunday 인터뷰에서 "사회의 문제여야 합니다."라고 말했습니다. "OpenAI가 ChatGPT나 이 기술이 일반적으로 어떻게 사용되거나 사용되지 않을지 스스로 결정해서는 안 됩니다."

작년에 알트먼이 갑작스럽게 잠시 축출된 이후, 공동 창립자 일리아 수츠케버, 얀 라이케, 존 슐먼을 포함한 여러 유명 연구자들이 OpenAI를 떠났고, 이들은 모두 OpenAI의 안전에 대한 의지에 대해 우려를 표명했습니다.