AIの判断基準とは 「ブラックボックス」指摘も
きょうのことば
▼AIの判断基準 人工知能(AI)が複雑なプロセスを経て判断を下す際の基準。現行のAIは「深層学習(ディープラーニング)」と呼ばれる技術を使い、大量に学習したデータから精度の高い結論を素早く導き出せる。半面、その処理過程を解明することは難しく、判断基準が「ブラックボックス」になるリスクが指摘されている。
深層学習は脳の働きを模したニューラルネット(神経回路網)が判断し結論を出す。その処理過程が複雑なため、根拠が不明瞭なまま融資が拒否されたり就職で不採用になったりする事態も想定される。学習段階で偏ったデータを読み込ませれば、判断にも偏りが生じうる。人種や性別間の差別が助長される恐れもある。
AIを使う政府や企業の責任をどう明確化するかが課題となる。AIへの規制では欧州連合(EU)が先行。AIの判断過程を分かりやすくすることを企業に求める指針の策定に動く。米グーグルが今年6月に公表した指針に「バイアス(偏向)を避ける」などの項目を盛り込むなど、企業による自主規制の動きも目立ってきた。