뉴욕주가 대형 AI 개발사를 규제하는 'RAISE법' 시행 절차에 들어간다. 연매출 5억 달러가 넘는 프런티어 AI 개발사는 11월부터 주 금융서비스국(DFS) 산하 신설 조직 DIGIT에 등록해야 하고, 2027년 1월 1일부터 안전 체계 공개, 중대 안전사고 72시간 내 보고, 분기별 재앙적 위험 평가 제출 의무가 적용된다. 위반 시 첫 위반 최대 100만 달러, 반복 위반 최대 300만 달러의 벌금을 물린다.
뉴욕주가 대형 인공지능(AI) 개발사를 직접 감독하는 '책임 있는 AI 안전·교육법(RAISE Act)' 시행에 착수했다. 캐시 호컬 주지사는 9월 21일 대형 프런티어 AI 개발사가 11월부터 주정부에 등록을 시작하고, 2027년 1월 1일부터 안전 기준과 정기 보고 의무를 지키게 된다고 밝혔다. 감독은 주 금융서비스국(DFS) 안에 새로 만든 '디지털 혁신·거버넌스·신뢰 사무국(DIGIT)'이 맡는다.
법 적용 대상은 연매출 5억 달러를 넘고, 10의 26제곱 회 이상의 연산으로 프런티어 모델을 훈련한 개발사다. 사실상 오픈AI, 구글, 앤스로픽, 메타 같은 대형 AI 기업이 해당한다. 이들은 안전·투명성 체계를 만들어 회사 웹사이트에 공개해야 하고, 모델 가중치 유출이나 통제 상실처럼 사람이 다칠 수 있는 '중대 안전사고'가 확인되면 72시간 안에 DIGIT에 보고해야 한다. 사망이나 부상 위험이 임박한 경우에는 24시간 안에 수사기관에도 알려야 한다. 이 밖에 분기마다 재앙적 위험 평가서를 내고, 2027년 1월 1일부터 2년마다 공시 서류를 제출하며 감독 분담금도 낸다.
위반하면 주 검찰총장이 첫 위반에 최대 100만 달러, 이후 위반에는 최대 300만 달러의 벌금을 부과할 수 있다. 리티샤 제임스 검찰총장은 "법을 집행하고 뉴욕 주민을 안전하게 지키기 위해 할 수 있는 모든 일을 하겠다"고 말했다. 호컬 주지사는 "세계에서 가장 강력한 기술을 만드는 회사라면 그것을 안전하게 지키기 위해 무엇을 하는지 사람들이 알 권리가 있고, 문제가 생기면 책임을 져야 한다"고 밝혔다.
RAISE법은 2025년 12월 서명된 뒤 올해 3월 캘리포니아의 프런티어 AI 투명성법과 기준을 맞추는 수정안이 통과됐다. 다만 사고 보고 기한은 캘리포니아의 15일보다 훨씬 짧은 72시간으로 뉴욕이 더 엄격하다. 법안을 발의한 앤드루 구나데스 주상원의원은 "연방정부가 손을 놓고 있어도 뉴욕은 빅테크의 이익보다 우리의 안전을 앞세워 단호하게 움직인다"고 말했다. 주정부는 DIGIT 첫 전임 직원으로 컴플라이언스 기업 세타레이크 법무총괄 출신 마크 길먼을 RAISE법 시행 담당 부국장에 임명했다.
이번 조치는 호컬 주지사가 최근 서명한 대규모 데이터센터 신규 건설 1년 유예 행정명령에 이은 AI 관련 규제다. 챗GPT 같은 AI 서비스를 일상적으로 쓰는 뉴욕 주민 입장에서는 개발사가 어떤 안전장치를 두고 있는지 공개 자료로 확인할 수 있게 되고, 문제가 생겼을 때 주정부가 개입할 근거가 생긴다는 의미가 있다. 등록 절차와 세부 규정은 DFS가 11월 전에 공개할 예정이다.
