#ESG #AI #이루다 #AI윤리
밀도씨, 지난 한 주도 잘 보냈나요? 혹시 반복되는 일상이 지루하게 느껴지지는 않았나요? 빈츠 에디터는 그런 일상 속에서도 작은 즐거움을 찾아내기 위해 매일 일기에 ‘오늘의 행복’을 하나씩 적어보고 있는데요(5월 19일 오늘의 행복은 바로 밀도씨를 만난 것!😘), 밀도씨도 한 번 실천해보는 건 어떨까요? 매일매일 똑같은 줄만 알았던 하루도 사실은 조금씩 다르게 빛나고 있었다는 걸 깨닫게 될 거예요🌟.
오늘의 밀도 추천곡
|
|
|
오늘의 밀도
🥗 APPETIZER 금주의 이슈 | 콩 심은 데 콩 나고, 차별 심은 데 차별 난다
🧆 MAIN DISH 금쪽같은 AI | AI 윤리는 ESG 경영의 일부
🍺 SPECIAL MENU 보여줄게, 완전히 달라진 이루다
🍰 DESSERT 금주의 대외활동 & 채용정보 |
|
|
🤬 콩 심은 데 콩 나고, 차별 심은 데 차별 난다
지난 2020년 말 화제가 되었던 AI ‘이루다’, 기억하시나요? 실제 사람과 대화하는 듯한 자연스럽고 친근한 말투로 큰 인기를 모았던 AI 챗봇이죠💬. 하지만 출시된 지 얼마 지나지 않아 이루다를 둘러싼 여러 논란이 일어났는데요. 이루다가 장애인이나 성소수자, 흑인 등 소수자를 대상으로 혐오와 차별이 담긴 답변을 쏟아낸 거예요. 일부 이용자가 이루다를 성적 도구처럼 취급하며 대화하는 모습도 나타났고요😱.
뿐만 아니라 이루다의 답변에 실제 사람의 이름과 주소, 계좌 정보 등이 포함되면서 개인정보 유출 의혹🔓이 불거졌어요. 논란이 이어지자 스캐터랩 측은 결국 출시 20일만에 이루다 서비스를 중단❌하고, 논란이 된 부분들을 개선해 다시 돌아오겠다고 밝혔어요.
이루다 사례를 통해 볼 수 있듯, AI는 기술의 발달로 점점 인간을 닮아가지만 그만큼 인간의 편견과 혐오도 그대로 배우고 있어요🧠. 오늘의 밀도는 이를 해결하기 위한 AI 윤리에 대해 이야기해 보려고 해요. 이루다 사태 이후 국내에서 AI 윤리에 대한 논의가 활발해지고 있지만, ‘윤리적인’ AI를 위해서는 아직 넘어야 할 산이 많아요😥. 국내 기업들은 그 산을 넘기 위해 어떤 노력을 펼치고 있는지 함께 알아볼게요!
|
|
|
🦸 모범생 MS가 AI로 세상을 구하는 법
🤖 금쪽같은 AI(인공지능)
밀도씨, 도대체 왜! AI가 ‘윤리적으로’ 행동하는 것이 어렵다는 걸까요?
첫 번째, AI가 윤리를 학습하기 위해 사용할 데이터를 결정하는 데 고민이 많아요🤔. AI는 ‘데이터’를 기반으로 스스로 학습하며 성장하는데요💻. 데이터가 너무 많으면 예측력이 떨어질 수 있어서 데이터의 범위를 좁혀야 해요. 이 때, 개발자들의 경험과 직관이 크게 작용해요. 따라서 학습하는 데이터와 어떤 행위가 윤리적인지 판단하는 알고리즘도 편향성을 띠기 쉽죠.
|
|
|
(출처 = 매일경제)
실제로, MS는 2016년 AI 챗봇 ‘테이(Tay)🤖’를 선보였는데요. 테이는 사용자들이 쏟아낸 비속어와 인종·성차별 발언을 반복적으로 학습하면서 혐오 발언을 쏟아냈고, 결국 16시간 만에 운영이 중단되었어요. 2018년에는 아마존도 AI를 활용한 채용 시스템을 폐기했는데요. AI가 남성 지원자가 다수인 과거의 이력서 데이터를 학습하면서 여성 지원자를 차별했다고.
두 번째, 성별이나 문화적 배경에 따라 윤리적 행위를 판단하는 기준이 크게 달라요. 미국 MIT 연구진이 전 세계 233개 국가의 230만 명을 대상으로 ‘*트롤리 딜레마🚆’에 대한 AI의 윤리적 판단을 설문한 결과, 응답자 다수가 고령자보다 젊은 사람의 생명을 구하는 것이 더 윤리적이라고 판단했는데요. 다만, 유교 문화권에서는 다른 문화권에 비해 고령자를 중시하는 경향이 매우 짙게 나타났어요. 이렇게 판단 기준이 들쑥날쑥하다면, 보편적인 합의에 도달하기는 어려울 수밖에 없어요🤯.
*트롤리 딜레마 : 두 그룹 중 한 쪽을 희생해야만 하는 상황에서 어느 쪽을 선택해야 할지에 대한 문제
한편, 기업부설연구소를 보유한 기업 717곳을 설문조사한 결과, 10곳 중 7곳 이상이 AI를 전담하는 조직이나 인력을 보유하고 있지 않았어요. 절반 이상이 큰 비용에 부담💸을 느끼고 있고, 전문적인 인력도 부족🙅하기 때문이라고.
👍 AI 윤리는 ESG 경영의 일부!
나쁜 AI는 용납할 수 없다👿! 이루다 논란 이후, AI 윤리는 사업, 특히 IT 기업의 성패를 가르는 중요한 열쇠🔑가 되었어요. 많은 기업과 대학, 연구소들은 공정하고 책임성 있는 AI 윤리를 실현하기 위해 갖은 방안을 마련하고 있죠. 국내 AI 윤리 논의는 아직 걸음마 단계에 불과하지만, 착한 AI로 소비자들을 마주하려는 기업들의 노력을 소개해 드릴게요👼! |
|
|
엔씨소프트는 ‘AI 시대의 리더십과 윤리’를 ESG 경영의 핵심 키워드 중 하나로 선정했는데요. 2020년부터 세계 유수 대학의 AI 윤리 교육 커리큘럼 개발 연구를 후원해오고 있고, 작년에는 AI 윤리 개선을 위하여 연중기획 프로젝트 ‘AI Framework’ 시리즈를 공개했어요. 윤송이 CSO가 세계 석학👩🎓들과 대담을 진행하면서 AI 기술에 대한 다양한 관점과 나아갈 방향을 소개한다고.
💟 국가인권위원회
국가인권위원회는 AI 개발과 활용 과정에서 인권 침해를 방지🙅하기 위해 공공기관 등이 준수해야할 가이드라인을 선보일 예정이에요. 자율규제 위주였던 기존 방식과 다르게, 인권 기준에 입각한 AI 가이드라인을 제안하는 건데요. 인간의 존엄성, 알 권리, 자기 결정권, 평등권 보장 등 각 기관이 인간의 존엄과 가치를 침해하지 않는 범위에서 AI를 개발하고 활용하며, 개인의 자율성 등을 침해해서는 안된다는 것이 기본 원칙이에요. 또한, 과학기술통신부를 비롯한 AI 관련 행정 부처가 AI와 연관되는 인권 문제를 지속적으로 모니터링하고 관리하도록 권고할 방침이라고👨💻.
|
|
|
😎 보여줄게, 완전히 달라진 이루다
논란 속에 서비스를 중단했던 이루다가 지난 3월, 새로워진 모습으로 돌아왔는데요! 스캐터랩은 새로운 이루다를 준비하면서, ‘다양한 삶의 가치를 존중한다’, ‘합리적 설명을 통해 신뢰 관계를 유지한다’ 등의 내용이 담긴 AI 챗봇 윤리 준칙을 제정했어요📜.
또한 한층 발전된 데이터 정책을 마련해서 프라이버시를 보호하고자 노력했다고 해요🔒. 이전의 이루다는 새로운 답변을 직접 생성하기보다는 데이터 중 적합한 것을 골라 가공하는 식으로 대화했고, 이 때 실제 대화 데이터를 이용했는데요. 새로운 이루다는 학습에 쓰이는 데이터에만 가명 처리된 실제 대화를 이용하고, 대화를 할 때는 스스로 생성한 문장을 활용해 답변하고 있어요🗣.
그렇다면 논란이 되었던 차별·혐오 발언은 어떻게 개선되었을까요🙄? |
|
|
(출처 = 비디오머그 영상 캡쳐)
성소수자나 인종에 대해 질문하자 다양성을 존중하는 답변을 내놓는 것을 볼 수 있어요! 편향적인 발언과 함께 선정적인 발언, 공격적인 발언을 ‘어뷰징’으로 규정하고, 이러한 어뷰징을 방지하기 위한 시스템을 구축했기 때문이라고🚫.
이루다를 소개하는 홈페이지 메인 화면에는 ‘안녕! 난 너의 첫 AI 친구 이루다야’라는 인사말이 쓰여 있는데요! 이루다와 친구가 되기 위해서는 기업의 노력과 더불어 AI를 대하는 이용자의 성숙한 태도가 꼭 필요해요. 빛나는 기술의 발전에 윤리 의식이 뒤쳐지지 않도록, 발맞춰 나아가는 사회가 되길 바라봅니다💖
|
|
|
오늘의 밀도도 따끈하게 잘 받아보셨나요?
더 맛있고 영양가 있는 밀도를 위해 의견을 남겨주세요😊
그럼 다음주 더욱 따끈한 한 끼로 찾아올게요! |
|
|
오늘의 밀도 요리사
🐑현 🌻이끔
✨오로라 🍒체리
💛젼 🍪빈츠
|
|
|
㈜리브위드
서울특별시 성동구 성수이로 147 아이에스 비즈타워 5F
언제든 따뜻한 한 끼가 그리워지면 다시 만나요!🙋♀️
|
|
|
|
