危うい判断。

今回はちょっとだけ真面目な話ですが、NHKスペシャル人工知能 天使か悪魔か 2018」の録画を見ました。


人工知能、色々楽しいことも便利なこともあるはずなのに、このテーマのNスベは毎回そういう方向では作られてない感じで、今回もいくつか使い方が危ういのがありました。


シカゴ警察では、犯罪に関係する人を人工知能に弾き出させた結果、加害者か被害者かは分からないけど犯罪に関わるらしいと監視対象になった人がそこに住んでいられなくなるほど追い詰めてる。ちょっとひどい。


それから、アメリカの病院で、心臓病の人に心臓移植した場合、心臓移植しなかった場合に比べて、10年後の生存率がどれくらい上がるかを人工知能に判断させて、上昇率で心臓移植手術の優先順位を決めていく、というものが怖すぎた。


心臓移植を希望する67才の方の手術をしない場合の10年後の生存率が6.5%、手術した場合が39%と予測され、上昇幅が32.5%。


同じく心臓移植を希望する74才の方は、手術しない場合が0%、手術した場合が42%で、上昇幅が42%。


この病院では、AI が弾き出した上昇幅で手術の必要性を判断するため、67才の方は心臓移植を受けられず、74才の方は心臓移植を受けることが出来た。


74才の方が元気になられたのは良かったね、と思うけど、上昇幅で優先順位を決めることにすごーく違和感。
10年後に心臓移植を受けなくても生きる可能性が高い方が不利になり、それで手術してもらえないのは納得いかない。
例えば手術しない10年後の生存率が20%、手術したら50%と診断されたら上昇幅30%で低いから手術してもらえないんだよ?このままだと80%死ぬ、手術すれば半々、と言われてるのに、待っていても手術は受けられないかもしれないんだよ。


心臓移植に使える心臓が足りないのは分かる。
年齢で簡単に決めるのも違うと思う。
でも、直ちに命に関わるのでなければ、治療の順番と手術の成功率を鑑みて決めるべきではないのか。
おかしい、こんなの絶対におかしい。
決めちゃったら患者に対して最善を尽くすことも寄り添うことも放棄した医者は残念な位罪深い。あり得ない。


人工知能が発達してすごく便利になると思うけど、使う人、決定権のある人の価値観とか人間性で命に関わることや人権に関わることが決められてしまうのはとても怖い。


日本に入って来る前に、命に関わるような変な制度は規制するような法律が先に必要なのでは。