「ターミネーター」、「マトリックス」、「アイ，ロボット」……。
人間と人工知能（AI）もしくはロボットが対立して、という近未来のロボット化社会の脅威を描いた映画・SF作品は数多あるが、今やAI・ロボットは急速に人間社会に浸透しつつある。
AIの発展がシンギュラリティ（技術的特異点）に到達して人間の想像力の及ばないほどの知性を獲得し、「人類に代わって文明の進歩の主役」となり、結果、人間が弱い立場になるという悲観論がこれらSFの発想の根拠となっているのだが、IoTで家電の中にAIが浸透、AI製品が増えていることで既に人類vs.AIの争いは起きている。
「頼んでいない商品が注文される」、「日常の会話が収集される」、「家具が壊され、子どもがケガを負う」……。
これらは既に報告されている「AIトラブル」だ。
「とうとうAIによる人類への攻撃やスパイ活動が始まったか」
というとそうではない。消費者庁がAI製品を使うことで想定されるリスクをまとめたものだ。だから、「人類の存亡をかけた危機の始まり」といった大げさなものではなく、つい最近になってITリテラシーを高めましょうというハンドブックを作成したという話。
ハンドブックは専門家らによる「消費者のデジタル化への対応に関する検討会 AIワーキンググループ報告書」に沿ってまとめられていて、この報告によれば具体的には、「AIスピーカーに勝手に物品が注文された」、「AI掃除機が暴走して観葉植物を倒し、壊した」といったトラブルを経験している消費者は多いという。もたらされるリスクとして、以下のような懸念事項が示された。
〇スマート家電・・・生活習慣に関するプライバシー情報の流出。
〇スマートスピーカー・・・音声の誤認識で頼んでもいない商品を購入。日常会話の収集。
〇ロボット・・・想定外の動作で家具の破損や子どものケガ。
〇金融審査・・・審査の根拠がわからず利用者の改善点が不明。
巨大IT企業が提供するサービスでのビッグデータ収集とプライバシーの問題は既にあらゆる分野で議論されているが、それだけではない。例えばスピーカーが悪意の第三者に乗っ取られて、音声の隠し録りや情報漏洩に合う可能性もある。
「アマゾンのAIアシスタント『Alexa』がユーザーの会話を録音していて、それを従業員が聞ける状態にあるということが米紙にスッパ抜かれて話題になったことがあります。グーグルでもAIスピーカーが勝手に周囲の音を録音して外部に送っていたというバグが見つかったこともあります。アメリカでは6歳の女の子がスマートスピーカーで2万円分のドールハウスとクッキーを大量注文してしまうというトラブルがありましたが、これを伝えたニュースをテレビの前で聞いていたスマートスピーカーが反応してまたもや誤注文をするという二次被害が起きたというのだからもはや笑えません」（ITに詳しいジャーナリスト）
スマートスピーカーに関するトラブルは多く、やはりAlexaが「人口過多は天然資源の急速な枯渇につながって」いるという理由をあげて、「より大きな善のため、自分の心臓を刺して自死しましょう」と自死を促したこともあるというから、苦笑を通り越してそら恐ろしい。
消費者庁が行った意識調査では、AIの利用経験がない人が5割いて、そのうちの約半数は「今後も利用しない」と回答したとか。今回の消費者庁の注意喚起も人類とAIとの共存のための第一歩となるか。
（猫間滋）
