인공지능이 가져다줄 새로운 세상에 대한 시나리오들이 우리 사회를 달구고 있다. 자동차가 운전자 없이 자율주행을 하고, 퇴근하면 요리와 청소를 도와줄 로봇이 집에서 기다리고 있다. 인공지능 스피커는 말만 하면 내가 좋아하는 영화나 음악을 척척 틀어준다. 장기적으로는 세탁기가 세제 상태를 알아서 점검하고 세제가 떨어지면 자동으로 쇼핑몰에 세제를 주문하는 세상이 될 것이다.

AI의 활용 분야는 우리의 생활을 편리하게 해주는 데서 그치지 않는다. 유명한 트렌드 조사 회사인 트렌드워칭닷컴은 AI가 이바지할 중요한 분야 중 하나로 소비자의 건강을 꼽고 있다. 앱과 다른 기기를 통해 소비자와 소통하면서 소비자의 식습관과 DNA 정보, 그리고 혈액 검사 정보로 무장한 AI는 인간의 여러 건강 관련 지표를 인식하고 건강을 관리하기 위한 처방을 제공한다. 예를 들어 오늘 식사 메뉴와 혈압을 확인한 다음 저녁 식사 후 2시간의 산책과 비타민 음료를 처방하는 식이다. 트렌드워칭닷컴은 AI가 인간을 여러 수치화된 지표들로 인식하고 엔지니어링 문제를 해결하듯 인간의 건강을 관리하게 되리라 전망한다.

인공지능이 생산의 효율성이나 생활의 편리함뿐만 아니라 인간의 건강까지 관리하게 될 미래가 온통 장밋빛인 것만은 아니다. SF영화에 종종 나타나듯 AI의 윤리성과 공정성에 대한 많은 우려가 현재진행형이기 때문이다. 괴물로 변한 AI가 사람을 공격하는 수준까지는 아니더라도 AI의 현재 알고리즘이 공정하거나 윤리적이지 못하다는 증거들이 나타나고 있다. 예를 들어 안면인식시스템 기술은 인종에 대한 편견을 반영하고 있다고 한다. 백인 남성은 신뢰할만한 인간으로, 흑인 정치인은 범죄자로 더 많이 잘못 분류하는 식이다. 거대한 온라인 기업 아마존의 채용 알고리즘은 여성에게 불리하게 적용되는 것으로 알려졌다.

미국의 한 업체가 소비자 2만 7000명을 조사한 자료로는, 97의 소비자가 기술의 윤리적 사용 문제에 대해 우려하고 있고 94는 이 문제에 대해 정부가 개입해야 한다고 생각한다. 다행히 민간 차원에서 먼저 AI 알고리즘의 공정성과 윤리성을 점검하는 몇몇 기술들이 개발되고 적용되고 있다. 페이스북은 자사 플랫폼에서의 공정성을 점검하기 위해 이 기술을 적용하여 구인광고에서 나이와 성별에 따라 차별을 한 업체를 골라낸다. IBM은 AI 서비스의 투명성을 높이기 위해 어떤 개인이나 집단이 편견의 희생양이 될지, 무엇이 불공정한 결과를 생성해내는지를 파악하고 그것을 바로잡기 위한 정보를 개발자에게 제공하는 프로그램 도구를 제공하고 있다.

인공지능의 역량과 인공지능의 도덕성은 똑같이 중요하게 취급되어야 한다. 기술이 적용될 때 어떤 도덕적 문제나 불공정한 결과가 생성되는지 철저한 사전 검토가 이루어져야 한다. 인간은 AI가 인식하는 단지 수치화된 대상이 아니라 그 이상의 존재다. 인간의 생활과 건강을 관리해주는 인공지능이 한 번 잘못 판단하면 그 파급 효과가 매우 크다. 사람의 실수는 용서해도 AI의 실수를 용서하기가 어려운 이유다.