AI 시스템이 편향된(biased) 결론을 도출하는 경우 매우 중요한 윤리적 및 사회적 문제를 야기할 수 있다. 예를 들어 머신러닝의 학습 과정에 편향된 데이터를 사용하면 알고리즘이 특정 집단이나 개인에 대해 불공정하거나 차별적인 의사결정을 유도할 수 있다. 많은 연구자들이 AI 모델을 개발할 때 편향성을 식별하고 완화하기 위해 노력하지만 AI 시스템의 공정성과 투명성을 보장하는 것은 여전히 어려운 문제로 남아 있다.
-01_“인공지능” 중에서
금융이나 의료 및 건강관리 등 과정의 투명성이 중요한 분야에 블록체인을 이용해 AI의 블랙박스 문제를 해결하면 시스템의 신뢰성과 책임성이 크게 향상되어 활용도를 높일 수 있다. AI 기반 진단 시스템을 사용하는 경우 진단 과정에 사용된 환자의 데이터와 결론을 도출하는 과정에 적용된 논리 및 분석 알고리즘을 투명하게 관리하는 것이 중요하다.
-03_“인공지능과 블록체인의 융합” 중에서
글로벌 전자상거래 플랫폼 알리바바는 알리익스프레스(AliExpress)를 비롯해 기업 간(B2B), 소비자 간(C2C) 및 기업과 소비자 간(B2C) 거래를 위해 각각 알리바바닷컴(Alibaba.com), 타오바오(Taobao), 티몰(Tmall) 등을 운영한다. 알리바바는 운영의 다양한 측면에서 투명성과 효율성을 높이기 위해 블록체인과 AI의 융합을 시도했다. 알리바바 클라우드(Alibaba Cloud)는 기업을 위한 블록체인 애플리케이션을 지원하는 서비스형 블록체인(BaaS, blockchain as a servise) 플랫폼이다. 개별 제품의 출처를 추적할 수 있게 만들어 사기를 줄이고 진위를 쉽게 확인할 수 있는 환경을 구축한다.
-06_“AI ☓ 블록체인: 공급망 관리 ” 중에서
의료, 금융, 법률 등 다양한 분야에서 사용되는 IBM의 왓슨은 의사결정 과정을 설명할 수 있도록 설계되었다. 결정의 영향을 받는 사람들이 모델이 예상대로 작동하고 규제 표준을 충족하는지 확인하며, 결과에 이의를 제기하거나 변경할 수 있다.
-09_“윤리적 고려” 중에서