인공지능 디자인 원칙에 포함되어야 할 6가지(MS Satya Nadella)

Scroll down to content

MS에서 AI design principle을 발표했다길래 찾다 보니, 2016년 이미 CEO인 사티아 나델라(Satya Nadella)가AI design principl에 포함되어야 할 6가지 원칙과 인간에게 필요한 4가지 포인트를 아래와 같이 발표했었다.

뒤늦게 본지는 모르겠지만 Tay가 친 사고 영향이 컷고, 마치 로봇의 3원칙과 유사하다는 느낌? 단 인간이 분명히 고민해야 할 공감, 교육, 창의력, 판단력과 책임 4가지도 한번 쯤 생각해 볼 키워드!

(1) 인공지능은 인간/인류를 지원해야한다(AI must assist humanity) – 예를 들면, 협업 인공 지능 로봇은 인간의 생명을 위협할 수 있는 광업과 같은 위험한 작업을 처리해야 한다.

(2) AI는 투명해야한다(AI must be transparent) – 인공지능 기술이 주변의 세상을 어떻게 분석하고 바라보는지에 대한 정보는 대중에게 전달되어 사람들이 인공지능이 어떻게 작동하고 작동하는 규칙을 알아야 한다.

(3) 인공지능은 사람의 존엄성을 파괴하지 않고 효율성을 극대화해야 한다(AI must maximize efficiencies without destroying the dignity of people) – 인공 지능을 설계자들의 다양성은 “문화적 책임”과 “다양성 강화”를 위한 역할을 수행해야 한다. MS는 2016년 초 인종차별 발언을 한 챗봇 Tay 서비스를 중단해야 했다.

(4) 인공지능은 지능적인 프라이버시를 위해 디자인되어야 한다 (AI must be designed for intelligent privacy) – 사용자들로부터 신뢰를 확보하기 위해 개인 및 그룹의 정보는 안전해야 한다.

(5) 인공지능은 알고리즘은 책임성을 가져야 한다(AI must have algorithmic accountability) – 인간에게 의도되지 않은 피해를 되돌리기 위한 비상버튼(panic button)을 제공해야 한다.

(6) 인공지능은 편견을 경계해야 한다(AI must guard against bias) – 잘못된 추론이 차별에 사용되는 것을 방지할 수 있어야 한다.

 물론 인간도 반드시 기술과 함께 공존하기 위해 고민해야할 4가지는

(1) 공감(empathy) – 기계에 복제하기 어려운 요소로 인간-인공지능의 공감은 가치가 있을 것이다. 다른 사람들의 생각과 감정을인지하고 협력하고 관계를 형성하는 것이 중요하다.

(2) 교육(education) –  일부 사람들은 인간수명이 길어지고 출생률이 떨어져 교육에 대한 지출이 떨어질 것이라 주장한다. 그러나 현재 우리가 알수 없는 미래의 혁신을 개발하고  관리하기 위해서는 높은 수준의 사고와 보다 공정한 교육 결과를 얻기 위한 교육 투자 확대가 필요하다. 새로운 기술을 대규모로 구현하는 데 필요한 지식과 기술을 개발하는 것은 오랜 시간이 소요되는  어려운 사회 문제입니다. 혁신, 기술, 임금과  부의 직접적인 관계가 있다. 기계직조기(power loom)은 1810년 발명되었지만 수요를 충족시킬 수있는 기술이 충분하지 않아 의류 산업을 변화시키는 데 35 년이 걸렸다.

(3) 창의력(Creativity) – 인간 능력 가운데 가장 탁월한 하나는 창의력으로 이는 변하지 않을 것이다. 기계는 인간의 창의성을 풍부하게 하고 증강시킬 것이다.

(4) 판단력과 책임(Judgment and accountability) – 우리는 컴퓨터가 생성 진단 또는 법적 결정을 받아 들일 수는 있지만 결과에 대해 궁극적으로 사람이 책임을 지길 기대한다.

from http://www.slate.com/articles/technology/future_tense/2016/06/microsoft_ceo_satya_nadella_humans_and_a_i_can_work_together_to_solve_society.html

답글 남기기

아래 항목을 채우거나 오른쪽 아이콘 중 하나를 클릭하여 로그 인 하세요:

WordPress.com 로고

WordPress.com의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Google photo

Google의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Twitter 사진

Twitter의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

Facebook 사진

Facebook의 계정을 사용하여 댓글을 남깁니다. 로그아웃 /  변경 )

%s에 연결하는 중

%d 블로거가 이것을 좋아합니다: