출처 : Freepik

AI 기본법이 2024년 12월 26일 국회 본회의를 통과했습니다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)」은 국무회의 의결과 대통령 공포 절차를 거친 후, 1년의 유예 기간을 두고 2026년 1월부터 정식으로 효력을 발휘할 예정인데요.

인공지능 기술이 산업과 사회에 미치는 막대한 영향력을 고려할 때, AI 윤리적 문제와 AI 보안은 간과할 수 없는 중요한 사안입니다. 이러한 문제들을 해결하고 인공지능 기술이 올바른 방향으로 발전할 수 있도록 적절한 규제와 지원은 필수적이죠. 오늘은 이 법안이 가져올 변화를 자세히 살펴보고, AI 위험으로부터 일상을 안전하게 지키기 위한 방법을 함께 살펴보겠습니다.

◼︎ AI 기본법 등장 배경

출처: Freepik

최근 인공지능 기술은 눈부신 속도로 발전하며 우리 삶 곳곳에 스며들고 있습니다. AI 기술이 사회적으로 더욱 주목받고 논의의 중심에 서게 된 결정적인 계기는 바로 생성형 AI의 등장인데요. 생성형 AI는 기존의 기술과는 차별화된 창의적인 결과물을 만들어내며 그 잠재력을 증명하는 동시에, 예상치 못한 AI 윤리적 문제와 AI 위험성을 동시에 부각시키며 사회적 관심을 집중시켰습니다.

하지만 기술의 급격한 발전 속도를 따라가지 못하는 법적, 윤리적 기준의 부재는 다양한 사회적 문제를 야기했습니다. 특히, 개인 정보 침해 및 사생활 문제는 사회적 갈등을 심화시키는 주요 요인으로 부각되고 있죠. 이에 대한민국은 AI 기술의 건전한 발전과 안전한 활용을 위한 법적 토대를 마련하고자 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안'을 제정했습니다.

◼︎ AI 기본법 핵심 내용 정리

1) AI 정의

AI 기본법은 급변하는 AI 기술 발전에 발맞춰 명확한 용어 정의를 통해 AI 기술의 범위를 규정하고, 관련 주체들의 책임과 권리를 명시하여 AI 위험을 방지하고 건전한 발전을 도모합니다. 이에 따라 AI 기본법 제2조에서는 인공지능 시스템과 관련된 주요 개념들을 명확히 정의하고,각 호에서 인공지능 시스템의 구체적인 내용을 상세히 열거하고 있습니다.

✅ AI 정의

· 고영향 인공지능: 사람의 생명, 신체의 안전, 기본권 등에 심각한 위험을 초래할 수 있는 AI 시스템

· 생성형 인공지능: 입력 데이터를 기반으로 다양한 결과물을 생성하는 AI 시스템

· 인공지능 산업: AI 또는 AI 기술을 활용한 제품 및 서비스를 제공하는 산업

· 인공지능 사업자: AI 산업 관련 사업을 하는 주체

2) AI 윤리 원칙

출처 : Freepik

AI 기본법 제27조는 AI 윤리적 문제의 해결에 대한 정부의 책무를 명시하고 있습니다. 정부는 안정성, 신뢰성, 접근성, 인간의 존엄성과 공동체의 가치 등 핵심요소를 반영한 AI 윤리 원칙을 마련하여 공표할 수 있도록 규정하고 있습니다. 또한, 과학기술정보통신부장관은 이러한 윤리 원칙의 실질적인 적용을 위한 실천 방안을 마련하고, 교육 및 홍보 활동을 통해 사회적 인식을 제고해야 합니다.

3) 기업의 책임 강화

AI 기본법 제31조는 인공지능 사업자에게 투명성, 안전성 확보, 고지 의무 등 구체적인 책임을 부여하여 기업의 역할을 강화하고 있습니다. 특히, 고영향 인공지능 또는 생성형 인공지능을 활용한 제품이나 서비스를 제공하는 사업자는 다음과 같은 투명성 확보 의무를 준수해야 합니다. 만약 사업자가 이러한 고지 의무를 위반할 경우, 3천만 원 이하의 과태료가 부과될 수 있습니다.

✅ 투명성 확보 의무

· 첫째, 해당 제품이나 서비스가 고영향 또는 생성형 AI를 기반으로 한다는 사실을 사용자에게 사전에 명확히 알려야 합니다.

· 둘째, 생성형 AI를 활용한 결과물을 제공할 경우, 그 결과물이 AI에 의해 생성되었음을 명시해야 합니다.

· AI 시스템을 통해 실제와 구별하기 어려운 가상의 결과물을 제공할 때는 사용자가 이를 명확히 인지할 수 있도록 고지하거나 표시해야 합니다.

4) AI 사업자의 안전성 책임 강화

출처: Freepik

인공지능기본법 제32조는 인공지능 사업자에게 고도의 안전성 확보 의무를 부과하며, 특히 학습에 사용된 누적 연산량이 대통령령으로 정하는 기준을 초과하는 AI 시스템에 대해서는 더욱 엄격한 기준을 적용합니다. 즉, 사업자는 AI 시스템의 개발, 활용, 폐기 등 전 생애주기에 걸쳐 발생할 수 있는 잠재적 위험을 사전에 식별하고 평가하여, 이를 완화하기 위한 체계적인 조치를 마련해야 합니다.

또한, AI 관련 안전사고를 지속적으로 모니터링하고, 사고 발생 시 신속하고 효과적으로 대응할 수 있는 위험 관리 체계를 구축해야 합니다. 이러한 의무 이행 결과는 과학기술정보통신부장관에게 정기적으로 제출되어야 하며, 이를 통해 AI 시스템의 지속적인 안정성 검증 및 관리가 이루어집니다.

5) 정부의 역할과 지원

출처 : Freepik

AI 기본법은 정부가 AI 산업의 발전과 안전한 활용을 위해 정책 수립, 연구 개발 지원, 윤리 기준 설정, 규제 및 감독 등 다양한 역할을 수행해야 함을 명시하고 있습니다. 대통령 직속의 국가인공지능위원회를 통해 AI 관련 주요 정책 방향을 설정하고, 과학기술정보통신부는 인공지능 안전연구소를 운영하며 AI 안전성을 확보합니다. 또한, 정부는 AI 기술 개발 지원 및 표준화를 통해 산업 발전을 촉진하고, 전문인력 양성 및 해외 인력 확보를 위한 정책을 추진하는 등 인공지능 기술 발전에 많은 노력을 기울이고 있습니다.

◼︎ AI 기본법이 미칠 영향

1) 일반 사용자 측면

출처: Pexels

기본적으로 기업과 산업에 초점을 맞추고 있는 법이지만, 개인의 삶에도 간접적으로 중요한 영향을 미칩니다. AI 시대에는 개인 정보 유출, 악의적인 AI 공격 등 다양한 보안 위협이 더욱 빈번하게 발생할 수 있습니다. 따라서 개인은 AI 보안에 대한 경각심을 높이고 정보 보호에 주의를 기울여야 합니다.

딥페이크 기술을 접목한 피싱 주의! AI를 악용한 공격 동향과 대응 방법

2) 기업 및 산업 측면

출처 : Freepik

AI 기본법 중 고영향 인공지능 및 생성형 인공지능 사업자에게 구체적인 의무가 부과됨에 따라, AI 기술을 적극적으로 활용하는 모빌리티, 의료기기, 금융 등 다양한 산업 분야에 걸쳐 상당한 영향을 미칠 것으로 예상됩니다. 특히, 자율주행, 의료 진단, 신용 평가 등 인간의 안전과 권리에 중대한 영향을 미치는 '고영향 AI 시스템'을 운영하는 기업들은 투명성, 안전성, 사용자 고지 등 강화된 의무를 준수해야 하죠. 따라서 기업들은 기존의 규제 체계와 AI 기본법의 내용을 자세히 비교하여 추가적인 의무 사항을 파악하고 대비하는 것이 중요하며, 정부의 지원 시책과 향후 구체화할 규제 내용을 지속적으로 모니터링하여 AI 기술을 안전하게 활용할 수 있는 기반을 마련해야 할 것으로 보입니다.

생성형 AI 기술 발전에 따른 보안위협과 대응 전략

◼︎보안 체계 구축, SK쉴더스와 함께라면 걱정 없습니다.

출처 : Freepik

AI 시대에 기업들은 더욱 철저한 준비와 대응이 필요합니다. 특히 고영향 및 생성형 AI를 다루는 기업들은 법적 리스크 최소화를 위해 컴플라이언스 체계를 재점검하고 향후 시행령 및 표준화 지침을 지속적으로 모니터링해야 하죠. 이러한 변화 속에서 AI 기본법에 부합하는 정보 보호 체계 구축과 AI 보안은 기업의 핵심 과제가 되었습니다. SK쉴더스는 AI 보안, 데이터 보호, 위험 대응 체계 설계에 대한 축적된 전문성을 바탕으로 기업들이 AI 시대를 보다 안전하게 나아갈 수 있도록 최적의 맞춤형 솔루션을 제공합니다. AI 시대의 변화가 걱정된다면, SK쉴더스의 맞춤형 솔루션과 함께 걱정을 덜어보세요!

정보보호 체계 구축은 SK쉴더스와 함께!

‍

‍

‍

[콘텐츠 내용 출처]

법률신문, AI 기본법 통과의 의의 및 산업계에 미칠 영향

법률신문, ｢AI 기본법｣ 개정안의 주요 내용과 시사점

AI기본법 어떤 내용 담았나···고영향AI 11개 분야로 포괄 규정

AI 기본법 제정안의 주요 내용 및 시사점