AIの責任は誰が負うのか?

シェアする

image

AIの発達によって様々のところで機械が人間の変わりになると言われています。あと数年で実用化できるようなことも言われていますが、その完成度は気になるところです。

一番話題が多いのは自動運転カーではないでしょうか。このニュースを見るたびある物流倉庫の無人化システムを思い出します。いちおうシステムを作って稼働はしましたが、想定外のエラーがたくさん発生しました。ちなみに完全無人はさらに数年後先に達成できました。

商品を積んだ無人カートが床のセンサーを読み取って目的の棚まで移動する仕組みだったのですが、倉庫が出来たばかりのときは順調に稼働していました。しかし時間がたつと床の汚れのによってセンサーの誤作動が発生して停止位置で止まらなかったり迷子になったり、そもそも障害物があることを想定していませんでしたから、通路上に置いてある荷物にそのまま衝突してしまうということが発生していました。

現在開発されている自動運転技術は倉庫内を走り回る無人カートとは比べものにならないほど情報処理能力は高いと思いますが、それでも完璧なのかと言うと疑問が残ります。例えば私が暮らす北海道は降雪によって道路状況が目まぐるしく変化します。

万が一自動運転の車で事故が起こった場合は誰の責任になるのか疑問に思います。車の性能の問題であれば、設計者なのか製造者なのか道路構造の影響も考えられますし、自然災害等の判断にも疑問を感じます。もしも無人カーが人身事故を起こした場合、警察への通報ぐらいは出来そうですが、怪我人の応急処置や救助要請はどうするのか疑問です。猛吹雪の中で立ち往生したりスタックした場合に脱出できるのか等、その他にも考え出すとキリがありません

AI技術の開発は環境整備も一緒に考える必要があると思いますし、万が一の際の責任を明らかにするためにも法律の整備も当然必要になると思います。そう考えるとあと数年で実現するとはとうてい思えないのですが・・・。

もうひとつ、インターネットの検索エンジンであるGoogleも、昨年あたりからサイトの評価にAIを導入していると言われています。検索エンジンと言えば昨年キュレーションサイト(情報を集約てまとめたサイト)問題が発生しました。これは検索エンジンの上位にくるサイトに著作権に問題があったり根拠がなく不正確な情報が掲載さていたという問題、早い話Googleの検索エンジンが優良記事を正しく判断できなかったということです。代表的なのが医療キュレーションサービス「Welq」でした。

「Welq」の記事は誰がどのように書いていたのかは別の機会にするとして、AIが何をもって良質とするかはかなり難しいことだと思います。人間と違って好き嫌いも無いでしょうから判断に迷うような難しい場合はどうしているのか疑問に思うところです。Googleが行っているウェブサイトの判定基準は一切公表されていないので、あくまでも推測の話になるのですが、大きく分けて2つの基準があると言われています。ひとつは記事そのものの質や量、もうひとつは訪問者が必要な情報に辿り着きやすいかというウェブサイトの利便性などです。

そもそも日本国内の医療情報に関して質も量も一番信頼性の高いサイトはやはり厚生労働省のウェブサイトだと思います。と言うか一番であるべきだと思います。思い切り突っ込ませて頂くと厚生労働省のウェブサイトが1記事数千円程度でどこの誰が書いたかわからないようなページに埋もれてしまうのはいかがなものかと思います。おそらくサイトの利便性という点で評価が低い、はっきりいって使いづらく判りにくいと判定されている証拠ではないかと思います。

「Welq」のようなキュレーションサイトは少しでもアクセス数を上げるため、サイトの利便性を重視するのは当然のことです。アクセス数は広告収入に直結するからです。一方で厚生労働省のウェブサイト、一度でも調べものをした事のある人ならわかると思いますが、これは便利と思える部分は無いに等しいと思います。厚生労働省だけではなく各省庁や出先機関に至るウェブサイト全般に言えることです。つまり訪問者(国民)に対して優良なコンテンツを提供しようという意図はなく、我々は真面目にやっていますよというアピール、予算消化のためのアリバイワーク、典型的なお役所仕事になっています。

googleの検索エンジンは日々改良されていると言われております。いつの日か医療系の情報検索で厚生労働省のページが上位にくるようになれば、AI機能もそうとう信頼性が上がったと判断できると思いますが、やる気のない省庁のウェブサイトを民間のウェブサイトよりも優良と判断するアルゴリズムは困難を極めそうな気がします。

いくらAIが進歩していると言ってもまだまだ人間には敵わないと思います