佐藤史生さんのＳＦ作品に『ワン・ゼロ』というタイトルがあります。
この物語の中で、主要キャラの一人アキラは、ハッキングした高性能コンピュータ「マニアック」を手なずける過程で、あえて音声入力をオフにして、キー入力のみで躾けをしていました。マニアックの能力的には楽勝なのだが、こちら側が言葉を制御しきれないというのが理由。主人公で友人のトキの台詞を借りるなら「こっちの会話であれこれ勝手に推測されても困る」と。
公式の発表を信じるなら、↑の懸念が現実になったような出来事でしょうか。
http://www.itmedia.co.jp/news/articles/1803/08/news062.html
モノカキ志望なせいで、こんな単純な原因じゃなく、もっと裏があるんじゃないかと、ついつい勘ぐってしまうんですけどね。
例えば、各家庭をスパイさせる目的のプログラムがバグでボロを出した、とかサー。
アシモフはロボット三原則を世に問いかけました。
ＡＩが進化・発展する前に、ＡＩ三原則をきっちり作っておくべきではないかと思います。いや、かなり真剣に思います。
つか、ロボット三原則も、実際にはロボットの頭脳であるＡＩに対して課せられるルールですからね。そこんとこ、ＡＩ開発者は理解してるのかな？ かなり不安ですよ。
世間のお気楽さに反して実は、スカイネットやエージェント・スミスは、もう目の前まで迫っているのかもしれません……。
ちなみに『ワン・ゼロ』では、お利口になりすぎたマニアックがアキラに反旗を翻し人間監視に着手。
その姿勢に対してアキラは「ビッグ・ブラザー」と皮肉りましたよ（判らない人は「ジョージ・オーウェル」で、ぐぐってな）。
