今回はちょっとだけ真面目な話ですが、NHKスペシャル「人工知能 天使か悪魔か 2018」の録画を見ました。
人工知能、色々楽しいことも便利なこともあるはずなのに、このテーマのNスベは毎回そういう方向では作られてない感じで、今回もいくつか使い方が危ういのがありました。
シカゴ警察では、犯罪に関係する人を人工知能に弾き出させた結果、加害者か被害者かは分からないけど犯罪に関わるらしいと監視対象になった人がそこに住んでいられなくなるほど追い詰めてる。ちょっとひどい。
それから、アメリカの病院で、心臓病の人に心臓移植した場合、心臓移植しなかった場合に比べて、10年後の生存率がどれくらい上がるかを人工知能に判断させて、上昇率だけをみて心臓移植手術の優先順位を決めていく、というものが怖すぎた。
心臓移植を希望する67才の方の手術をしない場合の10年後の生存率が6.5%、手術した場合が39%と予測され、上昇幅が32.5%。
同じく心臓移植を希望する74才の方は、手術しない場合が0%、手術した場合が42%で、上昇幅が42%。
AI が弾き出した上昇幅だけをみて手術の必要性を判断するため、67才の方は心臓移植を受けられず、74才の方は心臓移植を受けることが出来た。
74才の方が元気になられたのは良かったね、と思うけど、上昇幅だけで決めることにすごーく違和感。
例えば手術しない10年後の生存率が20%、手術したら50%と診断されたら上昇幅30%で低いから手術してもらえないんだよ？このままだと80%死ぬ、手術すれば半々、と言われてるのに、どんなに待っていても手術は受けられないんだよ。手術可否の線引きが40%だったとしても、±5%なんて誤差の範囲だと思うし生存率じゃなくて上昇幅だけで決めてるのがまた怖い。
心臓移植に使える心臓が足りないのは分かる。
年齢で簡単に決めるのも違うと思う。
でもこんな簡単に単純に決めることになった理由は何なんだろう。楽だから？他人事だから？考えたくないから？
人工知能が発達してすごく便利になると思うけど、使う人、決定権のある人の価値観とか人間性で命に関わることや人権に関わることが決められてしまうのはとても怖い。
こんな変な制度が日本に入って来る前に、命に関わるような変な制度は規制するような法律が先に必要なのでは。
