지난 주 서울에서는 국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 공동으로 주최한 ‘AI 국제표준화 총회(ISO/IEC JTC1/SC42)’가 진행되었습니다. 한국, 미국, 영국, 독일 등 40여개국, 270여명의 전문가👩🏻‍💻👨🏻‍💻가 참석한 AI 국제표준화 총회는 2017년 설립 이후 자율운행차, 로봇, 의료, 금융 등 AI 응용 산업의 표준을 다루는 다른 위원회의 활동에 지침이 되는 표준📃을 마련하는 기구입니다. 이번 총회에서는 생성형 AI의 윤리 문제를 포함한 AI 성숙도 모델, AI 경영 시스템 가이드 등에 관한 국제표준 개발 논의💬가 진행되었다고 합니다.

ChatGPT 등장 이후, 📢생성형 AI에 사용에 대한 윤리적 문제를 반드시 해결해야 한다는 목소리가 꾸준히 있는데요, 최근 딥페이크와 같은 기술의 악용😠으로 피해 사례가 늘고 있다는 기사를 볼수록 적절한 가이드라인이 필요할 것 같다는 생각이 듭니다. 생성형 AI의 윤리 문제에 대해 살펴보고자 준비한 이번 주 위클리 주제는 ‘AI 거버넌스’입니다!

AI 기술이 발전할수록 기술 사용에 대한 적절한 가이드라인이 없다면 차별과 위험을 야기할 수 있는데요, 인공지능 기술은 현재 ☝🏻 인종·성별·사회 경제적 지위 등에 대한 차별 ☝🏻 대규모 데이터 수집·처리 과정 중의 개인정보 침해 ☝🏻 결정 오류로 인한 작동 위험성 등에 대한 윤리적 문제를 가지고 있습니다. AI의 윤리적 문제에 대한 대응과 해결책 마련을 위해 기업들은 AI 거버넌스를 수립하고 있습니다.

AI 거버넌스란 인공지능의 개발, 배포, 운용, 그리고 관련된 윤리적, 법적, 사회적 문제들을 다루는 프레임워크나 체계📌를 가리킵니다. 여기에는 인공지능이 사회에 미치는 영향을 조절하고 관리하기 위해 필요한 정책, 규제, 윤리적 원칙, 국제 협력 🤝🏻 등이 포함되는데요. AI 거버넌스에서는 주로 다음과 같은 주제를 다룹니다.

🧾 법적 측면 : 인공지능 기술의 개발과 사용에 관련된 법적 책임과 규제 정의

🧾 윤리적 측면 : 인공지능의 개발과 사용이 윤리적으로 적절한지에 대한 원칙과 가이드라인 수립

🧾 기술적 측면 : 인공지능 시스템의 설계와 구현에 대한 기술적 가이드라인 제공

🧾 사회적 측면 : 인공지능 기술이 사회적으로 수용 가능하며 혜택을 제공하는 방식으로 발전할 수 있도록 지원

🧾 국제적 협력 : 인공지능이 국가 및 국제적으로 효과적으로 관리되고 규제되도록 지원

AI 거버넌스는 이러한 다양한 측면을 고려하여 인공지능 기술의 발전과 혁신을 촉진하면서도 사회적 안전과 공정성을 보장하는 데 중요한 역할을 한다고 합니다. 해시태그 뉴스를 통해 정부와 기업의 AI 거버넌스 수립 동향에 대해 알아보겠습니다. 🧐

과학기술정보통신부는 지난 18일 AI전략 최고위협의회 윤리·안전분과로 활동할 '제3기 인공지능(AI) 윤리·신뢰성 포럼' 출범식👏🏻을 열었습니다. AI전략 최고위협의회는 범정부 AI 거버넌스 조직💡인데요, 제3기 AI 윤리·신뢰성 포럼에서는 학계·산업계·법조계·공공·시민·사회·국제기구 등 분야별 전문가 20명이 AI의 사회적 신뢰기반 조성을 위한 논의💬를 진행했다고 합니다. 포럼에서는 앞으로 생성형 AI의 악의적 활용을 완화·방지하기 위한 AI 윤리·신뢰성 분야 범부처 과제를 발굴하고 정책과제를 구체화✨할 계획이라고 하네요.

KT가 안전하고 신뢰할 수 있는 AI 기술을 연구하기 위해 Responsible AI Center'(책임감 있는 인공지능 센터·RAIC)를 신설👏🏻했습니다. 이 센터는 AI 기술의 잠재적 위험을 최소화하고 사용자에게 유익한 가치를 제공하기 위한 연구를 수행할 예정이라고 합니다. RAIC는 안전성, 투명성, 개인정보 보호 등의 분야에서 위험을 관리하는 체계를 구축할 뿐만 아니라, 회사의 AI 윤리 원칙을 더욱 고도화하여 실무에 즉시 적용할 수 있는 지침📄을 제작할 계획이라고 하는데요, 이를 통해 KT는 사회가 지향하는 가치와 목적에 부합하는 AI 사용을 위한 거버넌스 체계를 확립하고, 다양한 분야의 전문가를 영입할 예정입니다. KT는 향후에도 'Responsible AI'를 강화해 AI가 사회에 긍정적인 영향을 미치는 기술로 발전시킬 것을 강조했습니다.

최근 알파코 2캠퍼스에서는 특성화고 학생들의 디지털 역량과 창의융합 역량 강화를 목적으로 한 ‘세상을 바꾸는 예비 CEO’ 교육 과정이 진행되었습니다! 🌱 학생들이 일상에서 느낀 문제를 도출하고 이를 해결하기 위한 창의적인 솔루션을 소프트웨어로 프로그래밍하는 과정이었는데요, 직접 소프트웨어 기능을 구현해 보는 학생들의 열정을 확인해 보세요! 🤭

실무에서 데이터를 자주 분석하시나요? 파이썬, SQL을 들어는 봤지만 익숙하지 않으시다구요?걱정하지 마세요! 데이터 분석은 엑셀이면 충분합니다!

😮 “데이터 분석, 어렵지 않나요?”

😎 “어려운 내용도 쉽게! 쉬운 내용은 더 쉽게! 설명해 드릴게요.

       우선 데이터 분석을 진행하기 위해 파워 쿼리를 사용해 실무 데이터를 가져와 보세요!”

😮 “파워 쿼리…?”