정부의 AI 통제, 그 새로운 규칙과 미래 [2024]

기계의 새로운 규칙

인공지능의 ‘무법지대’ 시대가 저물고 있습니다. 이제 정부가 단순히 지켜보는 단계를 넘어, 코드가 작성되고 배포되는 방식을 결정하는 규칙을 직접 만들고 있습니다. 이는 단순한 윤리나 모호한 원칙의 문제가 아닙니다. 강력한 법적 구속력과 막대한 벌금이 따르는 현실이죠. 유럽연합(EU)이 AI 법(AI Act)으로 앞서 나갔고, 미국도 포괄적인 행정명령으로 뒤를 이었습니다. 이러한 움직임은 전 세계 모든 테크 기업의 셈법을 완전히 바꿔놓았습니다. 특정 성능 임계치를 넘는 모델을 개발한다면 이제 정부의 감시 대상이 됩니다. 대중에게 공개하기 전 안전성을 입증해야 하죠. 이는 자발적 안전 서약에서 강제적인 감독 체계로의 전환을 의미합니다. 일반 사용자 입장에서는 내일 사용하는 도구가 오늘과는 다르게 느껴질 수 있습니다. 특정 기능이 국가별로 차단되거나, 데이터 사용 방식이 더 투명해질 수도 있죠. 목표는 발전과 보호 사이의 균형이지만, 그 과정은 험난하기만 합니다.

윤리에서 법적 강제로

새로운 규칙을 이해하려면 ‘위험 범주’를 살펴봐야 합니다. 대부분의 정부는 일률적인 접근 방식을 버리고, 잠재적 피해 수준에 따라 시스템을 등급화하고 있습니다. 이는 실질적인 운영상의 변화입니다. 기업은 이제 제품을 출시하고 행운을 빌 수 없습니다. 사용자에게 도달하기 전에 기술을 분류해야 하죠. 이 분류에 따라 정부의 감시 강도와 문제가 발생했을 때 기업이 져야 할 법적 책임이 결정됩니다. 초점은 ‘AI가 무엇인가’에서 ‘AI가 무엇을 하는가’로 이동했습니다. 사람에 대한 결정을 내리는 시스템은 단순히 고양이 사진을 생성하는 시스템보다 훨씬 더 엄격한 감시를 받게 됩니다.

가장 제한적인 규칙은 ‘허용할 수 없는 위험’으로 간주되는 시스템에 적용됩니다. 이런 시스템은 권장되지 않는 수준이 아니라 아예 금지됩니다. 개발자에게는 넘지 말아야 할 명확한 선이 생긴 셈이죠. 그 외의 모든 시스템에 대해서는 새로운 수준의 문서화가 요구됩니다. 기업은 모델이 어떻게 학습되었는지 상세한 기록을 남겨야 하며, 모델이 어떤 근거로 결론에 도달했는지 설명할 수 있어야 합니다. 현대의 모델은 본질적으로 ‘블랙박스’인 경우가 많아 이는 상당한 기술적 도전입니다. 이를 설명 가능하게 만드는 것은 설계 방식의 근본적인 변화를 요구하죠. 또한, 학습에 사용되는 데이터가 깨끗하고 편향되지 않아야 한다는 규칙도 있습니다. 즉, 데이터 수집 과정 자체가 법적 감사의 대상이 된 것입니다. 현재의 규제 접근 방식은 다음과 같은 범주로 나뉩니다:

• 사회적 점수 매기기나 기만적인 기술로 행동을 조작하는 금지된 시스템.
• 핵심 인프라, 채용, 법 집행 등에 사용되어 엄격한 감사가 필요한 고위험 시스템.
• 챗봇처럼 인간이 아님을 밝혀야 하는 제한적 위험 시스템.
• AI 기반 비디오 게임처럼 제한이 적은 최소 위험 시스템.

이 구조는 유연하게 설계되었습니다. 기술이 변함에 따라 고위험 애플리케이션 목록은 늘어날 수 있습니다. 이는 소프트웨어가 진화해도 법이 유효하도록 만듭니다. 하지만 동시에 기업에게는 끊임없는 불확실성을 안겨줍니다. 새로운 기능이 더 강력한 규제 범주로 이동했는지 계속 확인해야 하기 때문이죠. 이것이 기계의 힘을 경계하는 세상에서 소프트웨어를 개발하는 새로운 현실입니다.

파편화된 글로벌 프레임워크

이러한 규칙의 영향은 한 국가의 경계에 머물지 않습니다. 우리는 ‘브뤼셀 효과(Brussels Effect)’의 부상을 목격하고 있습니다. EU가 기술 규제의 높은 기준을 세우면, 글로벌 기업들은 운영을 단순화하기 위해 전 세계적으로 그 기준을 채택하곤 합니다. 시장마다 10개의 다른 버전을 만드는 것보다 하나의 준수 제품을 만드는 것이 저렴하기 때문이죠. 이는 유럽이 실리콘밸리의 AI 개발 방식에 엄청난 영향력을 행사하게 함을 의미합니다. EU AI 법에 대해 더 읽어보면 이러한 기준이 어떻게 구조화되어 있는지 알 수 있습니다. 미국은 다른 방식이지만 그만큼 중요한 접근을 취하고 있습니다. 정부는 ‘국방물자생산법(Defense Production Act)’을 활용해 거대 테크 기업들이 안전 테스트 결과를 공유하도록 강제하고 있습니다. 이는 미국이 대규모 AI를 국가 안보의 문제로 보고 있다는 신호입니다.

한편, 중국은 더 직접적인 경로를 택했습니다. 그들의 규제는 생성형 AI가 만들어내는 콘텐츠에 집중합니다. 출력물이 사회적 가치와 일치해야 하며 국가 권력을 훼손하지 않아야 한다는 요구사항을 담고 있죠. 이는 같은 모델이라도 로그인하는 위치에 따라 다르게 작동하는 파편화된 세상을 만듭니다. 베이징의 모델은 파리나 뉴욕의 모델과는 다른 가드레일을 갖게 될 것입니다. 이러한 파편화는 상충하는 규칙들 사이에서 일해야 하는 개발자들에게 골칫거리입니다. 어떤 국가는 더 많은 개방을 원하고, 어떤 국가는 내러티브에 대한 통제를 원합니다. 글로벌 사용자에게 이는 AI 경험이 점점 ‘로컬화’되고 있음을 의미합니다. 국경 없는 인터넷의 꿈은 사라지고 있습니다. 그 자리에는 위치에 따라 기계가 말할 수 있는 내용이 결정되는 규제된 환경이 들어섰습니다. 이것이 2024년의 새로운 현실이며, 향후 10년간의 기술 성장을 정의할 변화입니다.

규제의 눈 아래에서 보내는 일상

프로젝트 매니저인 사라의 평범한 아침을 상상해 보세요. 그녀는 긴 이메일 체인을 요약하기 위해 AI 도구를 엽니다. 새로운 규정에 따라 소프트웨어는 요약이 알고리즘에 의해 생성되었음을 알려야 합니다. 또한 그녀의 동의 없이 회사 데이터가 공개 모델 학습에 사용되지 않도록 보장해야 하죠. 이는 최근 법안에 포함된 새로운 개인정보 보호 조치의 직접적인 결과입니다. 나중에 사라는 테크 기업에 지원합니다. 해당 기업은 AI 스크리닝 도구를 사용하죠. 이는 고위험 애플리케이션이므로 기업은 도구의 편향성을 감사해야 했습니다. 사라는 AI가 왜 자신을 그렇게 평가했는지에 대한 설명을 요구할 법적 권리가 있습니다. 과거에는 일반적인 거절 통보만 받았겠지만, 이제는 투명성을 요구할 길이 열린 것입니다. 이는 거버넌스가 기업과 개인 사이의 권력 역학을 어떻게 바꾸는지 보여주는 구체적인 사례입니다.

오후에 사라는 쇼핑몰을 걷습니다. 일부 도시에서는 안면 인식 기술이 그녀의 움직임을 추적해 맞춤형 광고를 제공할 것입니다. 엄격한 EU 규칙 하에서는 이러한 실시간 감시가 제한됩니다. 쇼핑몰은 이를 사용할 구체적인 법적 근거가 있어야 하며, 사라는 반드시 고지받아야 합니다. 그녀가 사용하는 제품들도 변하고 있습니다. OpenAI나 Google 같은 기업들은 이미 현지 법을 준수하기 위해 기능을 조정하고 있습니다. 특정 이미지 생성 도구를 해당 지역에서 사용할 수 없거나, 공인의 얼굴을 사실적으로 만들지 못하도록 엄격한 필터가 적용된 것을 눈치챌 수 있습니다. 이는 기술적 한계가 아니라 법적 제한입니다. 딥페이크가 선거를 방해하거나 편향된 알고리즘이 주거권을 박탈할 가능성을 고려하면 이러한 규칙에 대한 주장은 설득력이 있습니다. 정부는 가드레일을 설치함으로써 이러한 피해를 사전에 방지하려 합니다. 이것이 바로 미국의 AI 안전 접근 방식입니다.

하지만 사라는 자신의 도구가 점점 느려지거나 제한적으로 변하고 있다는 점도 느낄 것입니다. AI의 “죄송합니다, 그렇게 할 수 없습니다”라는 응답은 종종 막대한 벌금을 피하려는 개발자의 노력에서 비롯됩니다. 유용성과 안전 사이의 긴장은 모든 상호작용에서 드러납니다. 기계가 감시받고 있다는 끊임없는 상기인 셈이죠. 이러한 진화는 정지된 것이 아닙니다. 새로운 기능이 등장함에 따라 규칙도 업데이트됩니다. 목표는 사라가 사용하는 AI가 그녀의 이익을 위한 도구가 되도록 하는 것이지, 뒤에서 그녀의 이익에 반하는 시스템이 되지 않도록 하는 것입니다. 이는 인터넷 발명 이후 우리가 컴퓨터와 상호작용하는 방식에서 가장 중요한 변화입니다.

규제 준수의 숨겨진 비용

우리는 규제된 세상에서 진정으로 승리하는 자가 누구인지 어려운 질문을 던져야 합니다. 무거운 규제 부담이 대중을 보호할까요, 아니면 기득권만을 보호할까요? 거대 테크 기업은 규제 준수를 처리할 수백 명의 변호사와 엔지니어를 고용할 자원이 있습니다. 차고에서 시작하는 작은 스타트업은 그렇지 못하죠. 우리는 거인들만이 혁신할 수 있는 세상을 만들 위험이 있습니다. 이는 경쟁 감소와 사용자 비용 상승으로 이어질 수 있습니다. 개인정보 보호와 보안의 문제도 있습니다. 정부가 AI 모델의 내부 작동 방식에 대한 접근을 요구할 때, 그 데이터를 보호하는 것은 누구일까요? 정부가 모델을 감사하여 안전을 보장할 수 있다면, 모델이 사용자로부터 무엇을 배우는지 모니터링하는 데 같은 접근 권한을 사용할 수도 있습니다. 이는 공론장에서 거의 논의되지 않는 트레이드오프입니다.

혁신의 숨겨진 비용도 고려해야 합니다. 모든 새로운 기능이 긴 승인 절차를 거쳐야 한다면, 의학 분야에서 생명을 구하거나 복잡한 기후 문제를 해결할 수 있는 돌파구를 놓치게 될까요? 규제의 마찰은 실질적인 비용입니다. 우리가 얻는 안전이 우리가 잃는 진보보다 가치 있는지 알아야 합니다. 집행의 문제도 있습니다. 분산 네트워크에서 호스팅되거나 국제 규범을 무시하는 국가에 있는 모델을 어떻게 규제할까요? 규칙은 그것을 따르기로 선택한 기업에만 적용되어, 가장 위험한 행위자들은 감독 없이 자유롭게 활동할 수 있습니다. 이는 잘못된 보안 의식을 만듭니다. 우리는 법을 준수하는 시민들을 위해 울타리를 치고 있지만, 다른 모든 이들에게는 문이 열려 있는 셈이죠. 이는 규제 당국이 종종 회피하는 질문들입니다. 그들은 눈에 보이는 위험에 집중하면서 체계적인 위험은 무시합니다. 앞으로 나아갈 때, 안전에 대한 열망이 개방적이고 경쟁적인 시장의 가치를 가리지 않도록 해야 합니다.

저희가 다루어야 할 AI 스토리, 도구, 트렌드 또는 질문이 있으신가요? 기사 아이디어를 보내주세요 — 기꺼이 듣겠습니다.

투명성이 요구하는 기술적 대가

파워 유저와 개발자에게 새로운 규제는 구체적인 기술적 제약으로 다가옵니다. 가장 중요한 지표 중 하나는 ‘컴퓨팅 임계치’입니다. 미국 행정명령은 10의 26제곱 부동 소수점 연산(flops)을 기준으로 설정했습니다. 이보다 더 많은 전력을 사용하여 학습된 모델은 정부에 보고해야 합니다. 이는 개발자들이 하드웨어 사용량과 학습 실행에 대한 상세한 로그를 유지하도록 강제합니다. API 제한 또한 규제의 도구가 되고 있습니다. 허위 정보의 대량 생성을 방지하기 위해 일부 지역에서는 단일 사용자가 생성형 모델에 보낼 수 있는 요청 횟수를 제한하는 방안을 고려하고 있습니다. 이는 이러한 모델에 의존하는 애플리케이션을 구축하는 개발자에게 영향을 미칩니다. 이제 그들은 코드와 비즈니스 모델에서 이러한 제한을 고려해야 합니다. 로컬 저장소도 중요한 요소입니다. 법률은 종종 시민에 대한 데이터가 특정 지리적 경계 내에 머물러야 한다고 요구합니다. 즉, 기업이 단순히 중앙 클라우드를 사용하여 어디서나 데이터를 처리할 수 없다는 뜻입니다. 현지 데이터 센터를 구축하고 유지해야 하죠. 기술적 요구사항은 다음과 같습니다:

• AI 생성 콘텐츠를 식별하기 위한 API 수준의 필수 워터마킹.
• 현지 처리 및 저장을 강제하는 데이터 거주지 요구사항.
• 10의 26제곱 flops 임계치를 초과하는 모든 모델 학습에 대한 컴퓨팅 로깅.
• 모델 가중치와 결정 경로에 대한 인간의 감사를 허용하는 설명 가능성 레이어.

통합 워크플로우도 변화하고 있습니다. 개발자는 이제 파이프라인의 모든 단계에서 안전 점검을 구축해야 합니다. 타사 API를 사용하는 도구를 구축하는 경우, 해당 API가 데이터를 처리하는 방식에 대해 책임을 져야 합니다. 통합이 제공업체가 설정한 안전 필터를 우회하지 않도록 보장해야 하죠. 법의 ‘괴짜’ 섹션이 바로 실제 전투가 벌어지는 곳입니다. 지연 시간, 데이터 거주지, 모델 가중치의 수학적 계산에 관한 것이죠. 이러한 세부 사항이 제품의 생존 여부를 결정하거나, 규제 준수 요구사항의 무게에 묻힐지를 결정합니다. 기술 정책에 관한 최신 뉴스 보고서에서 이러한 기술적 변화에 대한 자세한 내용을 찾을 수 있습니다. 이러한 변화보다 앞서 나가고 싶은 이들에게는 AI 규제의 최신 동향을 팔로우하는 것이 필수입니다. 규칙의 복잡성으로 인해 개발자의 역할은 코드만큼이나 법률과도 밀접해지고 있습니다.

미완의 코드

AI를 통제하려는 시도는 현재 진행형입니다. 우리는 완전한 자유의 시기에서 관리되는 성장의 시기로 이동하고 있습니다. 오늘 작성된 규칙은 향후 10년의 기술을 형성할 것입니다. 하지만 소프트웨어의 속도는 항상 입법의 속도를 앞지릅니다. 법이 통과될 때쯤이면 기술은 이미 새로운 단계로 나아간 경우가 많죠. 이는 우리에게 이 주제를 계속 진화하게 만들 살아있는 질문을 남깁니다. 민주적 절차가 스스로를 재작성하는 지능을 규제할 만큼 빠를 수 있을까요? 현재로서는 투명성과 책임성에 초점이 맞춰져 있습니다. 우리는 인간이 만든 기계를 인간이 계속 통제하도록 보장하려 노력하고 있습니다. 이러한 규칙이 AI를 더 안전하게 만들지, 아니면 더 복잡하게만 만들지는 지켜봐야 합니다. 확실한 것은 규제되지 않은 알고리즘의 시대가 끝났다는 사실뿐입니다. 이것이 2024년과 그 이후의 현실입니다.

편집자 주: 저희는 컴퓨터 전문가가 아니지만 인공지능을 이해하고, 더 자신감 있게 사용하며, 이미 다가오고 있는 미래를 따라가고 싶은 사람들을 위한 다국어 AI 뉴스 및 가이드 허브로 이 사이트를 만들었습니다.

오류나 수정할 사항을 발견하셨나요? 알려주세요.