출처 : 게티이미지뱅크

경찰청 연구에 따르면, 생성형 AI가 악의적으로 개발되어 제공되면 거짓 정보를 생성하여 명예훼손이나 해킹 등에 악용😈될 가능성이 있다고 합니다. 그러나 이에 대한 법적 책임 소재는 불분명합니다. 생성형 AI의 악의적 개발을 막는 법적인 토대가 아직 마련되어 있지 않기 때문입니다.

이처럼 AI 기술의 안정성 보장에 대한 규제가 필요한 상황에서, 유럽연합(EU) 회원국들은 세계 최초로 포괄적인 인공지능(AI) 규제법(이하 AI법)을 승인✅하였고, 이는 오는 8월 초부터 발효된다고 합니다. AI법은 EU 회원국에 AI 서비스를 제공하는 기업🏢을 대상으로 하고 있어, 유럽에 진출한 국내 AI 관련 기업들도 규제의 대상이 됩니다.

EU의 AI 법 제정과 더불어 한국에서도 AI 개발 시 사용되는 데이터 품질에 관한 국제 표준을 제정하였습니다. 이러한 양상으로 보아, AI와 관련한 규제 및 지침📑은 앞으로도 점차 발전할 것으로 예상되며 기업에서도 AI를 개발하거나 도입할 때 안정성과 신뢰성을 보장🛡️할 수 있는 틀을 마련해두는 것이 필요할 것입니다.

이번 주 위클리 DnA는 AI법을 더 자세히 확인하고 안전하고 신뢰도 높은 AI 사용을 위한 프레임워크⚙️인 AI TRiSM을 살펴보고 이를 통해 AI를 더 안전하게 사용하기 위한 규제 및 지침의 필요성에 대해 함께 검토해보겠습니다.

🔹EU, 세계 최초 AI 규제법 승인... 2026년 전면 시행

해당 법은 AI 기술의 활용 위험도🚨에 따라 차등적으로 규제를 적용하는 특징을
보이는데요. 이와 관련된 주요 내용은 다음과 같습니다⬇️

이번 법안은 국제 AI 규제의 표준🚩이 될 것으로 전망되는 동시에 현재 상용화된
생성형 AI에 대해서는 기술 전환을 포함하여 36개월의 '전환 기간'을 부여하는 등
완전한 시행까지는 상당한 시간이 소요될 것으로 보입니다.

글로벌 연구 조사 기업인 ‘가트너(Gartner)’(이하 가트너)에서 제시한 AI TRiSM은 AI Trust, Risk, and Security Management의 약자로 AI 기술에 대한 신뢰를 구축하고 위험과 보안을 관리하고자 하는 프레임워크로서 책임 있는 AI를 제공하는 데에 목적이 있습니다.

AI TRiSM의 이와 같은 목적을 달성하기 위해서 필요한 핵심요소는 다음과 같습니다.

 🔸 AI TRiSM 핵심 요소 4가지

AI 시스템의 설명 가능성이란 AI 모델의 작동 방식과 데이터 선택 방법을 설명🗣️할 수 있어야 한다는 것입니다. AI를 활용하는 데에 있어서 잘못된 정보를 제공받거나 출처를 찾지 못하는 상황을 방지하기 위해 필요한 내용으로 AI 모델을 지속적으로 모니터링하여 관리할 수 있습니다.

모델옵스는 AI 모델 운영⚙️을 의미하는 것으로, 개발, 테스트, 배포 등 전체 작업을 제어하는 것을 의미합니다. 이를 통해 AI 모델을 자동화, 모니터링하고 거버넌스 규칙을 적용해 AI 수명 주기를 관리할 수 있습니다.

AI 애플리케이션의 보안이 취약하면 재정, 평판 손실이나 데이터 유출 등의 피해를 초래😨할 수 있기 때문에 AI 시스템을 둘러싼 인프라, 데이터 및 모델에 강한 보안 조치와 절차를 구현하는 데 중점을 두고 있습니다.

개인정보보호 기술을 적용하고 데이터 수집을 최소화할 필요가 있습니다. AI법, 개인정보 보호법과 같은 규제는 계속해서 제정·개정되고 있기 때문에 더 높은 수준으로 대응하고 적응해야, 데이터 유출이나 재정적 손실과 같은 피해를 줄일 수 있습니다.

네이버는 2022년 AI 윤리 준칙 발표 이후 2024년 6월 NAVER ASF(이하 ASF)를 만들어 AI 안전과 관련한 위험 대응 체계 및 글로벌 논의 흐름에 따른 개선 방안을 마련하겠다는 목표를 내비쳤습니다.

ASF 내용 중 일부인 AI 위험 평가 매트릭스를 통해 구체적인 방안을 확인해보면, AI 시스템을 안전 조치, 목적 영역으로 구분하여 위험도에 따라 조치🪄하는 것을 알 수 있었습니다.

이와 같은 네이버의 프레임워크는 5월에 진행된 AI 글로벌 포럼에서부터 시작되었는데요. 삼성, 구글, 오픈 AI 등 국내외 빅테크 주요 기업 16곳이 안전한 AI 사용을 위한 서약을 발표하고, AI 국제 표준 개발을 위한 협력을 강화하겠다고 밝혀습니다.

이미 업무 전반에 도입되고 사용되고 있는 AI뿐만 아니라, 빠르게 변화하는 DX 시대에서 사용하게 될 새로운 기술의 안정성 및 신뢰도에 대해 점검하고 관심을 기울이는 것이 앞으로 AI를 기반으로 하고 있는 기업의 올바른 성장을 이끌 수 있는 기준이 될 텐데요.

주요 기업들이 안전한 AI 개발 및 제공을 위해 빠르게 움직이고 있는 만큼 테크 기업의 경우 AI 관리 프레임워크를 마련하여 위험을 관리하고 AI 관련 규제 및 지침에 빠르게 적응할 토대를 마련해야 하고 일반 기업의 경우에도 관리 방안이 잘 구축되어 있는 AI 서비스를 사용해야 데이터 유출 등의 위험을 방지할 수 있을 것입니다.

혹시 위의 3가지 중 하나라도 해당하신다면

알파코의 파이썬 시리즈를 주목❗해주시기 바랍니다.

실습을 통해 파이썬 기초 개념을 반복, 심화 학습하여

직무 상관없이 실무에 바로 적용 가능한 업무자동화 방법까지

한번에 습득할 수 있습니다.

알파코 자체 실습 플랫폼에서 자유로운 코딩 실습 진행💻이 가능하며

코딩 도우미 챗봇🤖의 지원도 받을 수 있어

코딩 역량 향상⚡에 최적화된 학습 환경을 경험할 수 있습니다.

파이썬으로 업무 효율성을 향상시키고 디지털 역량을 높이고 싶다면

알파코로 문의주세요!🤗

파이썬 과정 시리즈의 더 자세한 내용은 알파코 홈페이지🏠에서 확인할 수 있습니다.

앞으로도 다양한 시리즈를 선보일 예정이니 많은 관심 부탁드립니다!