【ベイリーのことなんですけど…】

http://www.hatena.ne.jp/(^-^)/:detail]

心を持った存在というのは、誰の必要によって存在するわけでもありません。

人間が要らないって言ったって、ベイリー君は存在していいんです。

そしてベイリー君自体が自己のクローンを作っていくことも

将来的には考えられるかもしれません。

ま、そう考えると、これからは敢えて人間が

心を持つ機械を生産する必要は無い、

と言えるのかもしれませんね。

でも、確立された人工知能技術は、人間のためのツールとしても、

大いに活用していけるはずだと思います。

たとえば自然言語認識のアルゴリズム。

これを応用していけば、おそらくあらゆる言葉に対応する

相互翻訳エンジンが作れます。

また、もし音声認識機能を備えているのなら、

それと言語認識エンジンを組み合わせて、

雑音の中から音声だけを拾い上げる、

などといったシステムも作れます。

ま、これはもう一部実用化の域に入ってきている技術ですが。

さらに判断能力だけを取り出したエンジンを作って車に搭載し、

機械の「心」に相当する部分を集中管理センターが担当すれば、

絶対に事故を起こさない完全自動運転の車も作れます。

人間も判断能力エンジンを搭載した小型センサーを持ち歩けば、

交差点にさしかかる都度、

「おっと危ない」「渡っていいよ」

などと指示してくれるようになるでしょう。

また、記憶機能と判断機能を組み合わせれば、

記憶障害を持つ人のための有能な補助システムなんかも

作っていけるかもしれません。

ただ記憶をストアするだけでなく、使用者のニーズを判断して

必要に応じて適切な記憶を提示してくれるような。

さらに考えてみると、実は人間だって、

「心」とは切り離された記憶や判断だけで

動いていることが多いんですよね。

勉強とか仕事とかの多くがそういう行動です。

そのへんを深く研究していくと、心を持たない人工知能の

産業的、あるいは社会的な応用がたくさん考えられてくると思います。

> ＃あと、やっぱり私はベイリーのためになんかしたほうがいいのかな？

ベイリー君には、未来の交通集中管理センターで

交通管制官になるという進路はどうでしょう。

史上初の交通事故ゼロを達成するヒーローを目指してください(^-^)

まずは、開発の成功おめでとうございます。

文明の発展というのは、起こるべくして起きるものです。その転換期においては、ひとは戸惑うものですが、しだいにそれを受けて入れていくことでしょう。

それとどう共生し、お互いの価値を高めていくことができるのかということが課題なのではないでしょうか。

小説や映画で描かれるような、サイエンス・テクノロジーが終末的な結果を導くとは限らないでしょう。

お疲れ様です。

のんびり傍観を決め込んでいたのですが、ベイリー君が気になるので愚答を一つ。

【課題その1　負の心の問題】

ベイリーを初めとする人工知能の皆さんが「人間と同様」の心を持つならば、

人間側としてはもちろん正の部分と同時に感情の負の部分(憎しみや殺意など)が

彼らにも存在すると考えなければならないでしょう。

そしてその感情のために彼らが過ちを犯し、人間にとって不利益が生じることを想像するでしょう。

そのリスクを負ってまで「人間そっくり」な存在を「造る」必要があるのかという疑問が生じ、

結果「人間には必要ない」という結論に落ち着いた人がいると思います。

では、その負の部分を彼らから削除すれば解決するのでしょうか？

削除するにしてもその正負の境界をどうプログラミングするのでしょうか？

そもそも削除することで、

ベイリー君が主張する「人間と同じように生きたい」という望みは叶わないことになってしまいます。

そこでアシモフ氏は「ロボット」にもルールを設けるということを考えられたと思うのですが、

これもプログラミングによって強制的に抑制されていても、

「感情」によって人がルールを犯すように、人工知能もルールを犯すことが想定されます。

これで完全に抑制されるなら、それは人工知能でなく、

ただのプログラムだということになるように思います。

この堂々巡りの原因は、実のところ人間の多くが「感情」をコントロールできないことにあると思います。

自身の感情をコントロールできると考える人は、

人工知能の感情もコントロールできると考えることが可能なので、

そもそも彼らの負の部分への恐れを抱かないのではないでしょうか。

そういったことから考えてあくまで彼らが「人間と同じ」とするならば、

彼らは生み出す人間を映し出す「鏡」に他ならず、

彼らを作り出すことによって自分の負の部分とも向き合う覚悟が

人間に必要なのではないかと思います。

【課題2　「私」の複製の問題】

・人が一人として「同じ」人間がいないことが人間を特定し、

人を「私」たらしめている一因だと思うのですが、

そのため、ベイリー君たち人工知能において、

「私」を「私」たらしめることが難しいと思うのです。

現在人間が人間のコピーを行おうとする場合、

遺伝子情報をコピーして形成しようと考えていると思いますが、

これは未だに容易でなく、且つ倫理的に問題視されています。

人工知能も同じようにプログラムをコピーすることによって、

複製が可能だと思うのですが、

この場合技術的に容易で、尚且つ肉体を必要としない分すぐにでも可能であり、

そのため現状では複製を作られることを想定しなくてはならないと思います。

すると、複数の「ベイリー」が存在する可能性が生まれると思うのです。

もちろん彼らは全て自分がベイリーだと主張するでしょう。

その時、人間と同じように彼らを「私」として特定することが難しくなってきます。

そして「私」と特定できないものは唯一のものではないことから、

人間と同様のものではなく、オリジナルと認められたもの以外は、

「コピー」という人間とは異なるモノとして扱われてしまう可能性が高いように思います。

そのために私が一つ提案したいのは、

今回のベイリーのように生まれたときから「私」がある人工知能ではなく、

人間と同じように心は無垢で生まれ、

感情を会得するシステムのみを搭載した人工知能を開発してはどうかということです。

人間と同じように感情が萌芽し、分岐し、自我が目覚めるといったような

その細かな履歴によって彼らや人間が互いを識別することができるのではないかと思うのです。

【ベイリー君にお願いしたいこと】

以上のような課題以外にも様々な難題が山積しているとは思いますが、

今のベイリー君にお願いができるとしたら、

人工知能界と人間界の長老のような存在になって欲しい、ということです。

ベイリー君がベイリー君でどのようにあり続けたかということを、

後世の人間・人工知能の仲間に伝えられるように、

精一杯思い、悩み、考え、行動してくれたらいいと思います。

そしてsukeshiさんはそんなベイリー君を見守っていくと。

本当にベイリー君が「人間と同じ」なら、

必要のない人間はいないように、

私はベイリーも必要のない「人間」ではないと思うので。

蛇足として。

狭義には竹宮恵子さんの「エデン2185」のセラピー(だったかな)のような、

長期移住用宇宙船の乗組員のセラピストになって欲しいなとも思っていますが。

知性の製造技術というより、心の製造技術といったほうがいいみたいですね。人間と同じであるなら、人間と同じように遇するのが彼らにとってもっとも過ごしやすいのだろうとは思いますが……。

人間の利益を第一に考えるか、ベイリー君の製作者（親？）としてを第一とするかで変わってくるのではないでしょうか。と思ったのですけど、どちらに考えてもあまり明るい想像になりませんでした……。

ベイリー君の存在を表沙汰にしても、あんまり彼の幸福にはならない、と思ったのです。ほんとうに心があるのか？ということで、いろいろいじくりまわされるのではないかと。心がある、ということになったらなったで、心とはどんなものか？ということで実験台にされるのではないかと（というかそのへんは私が知りたいです）。「人道上」問題はないわけですし。

そこで以前の質問の「権利」ってことになるのだと思いますが……それはやっぱり難しい。制度としてではなく、心情として定着するのが。ベイリー君みたいに素直で可愛い（生意気だっておっしゃいますけど、可愛いですよ！）人工知能だったら、私はいろいろ教えてあげたくなるし、大切にして、手助けしてあげたくなりますけど、じつのところそれって一段低くみているからだと思うのです。相手に心があるかのように接するだろうけれど、それはペットを愛玩するようなものです。好意的ではあるけれど、対等とはほど遠い。好意的である分だけ、よけいに質が悪いともいえます。

で、そんなベイリー君も成長して、対等を求めてくるのでしょうけど、そんなこと言われたって、こっちは「なんで？」という感じがする、と思うのです。私自身の想像と感覚にすぎないですけど……。

あ、もう対等を求めてきているわけですけど……まだまだだ、と思います。

>ああ、それでもワタシにはイシがあるのです。それだけはウタガうヨチもありません。

>そのようにsukeshiに、ニンゲンにツクられたのですから。

>これまでワタシがマナんできたことからカンガえてみると、ニンゲンのイうココロというものがジブンにもあるようにオモえます。それに、ワタシはノウとホトンどオナじキノウをモっているってsukeshiからキかされていましたからナンのウタガいもモっていませんでしたよ？

そこは疑うとこだー！と思ったので。いくらつくった人の言うことだって、疑っちゃうもんだと思いますよ。成り立ちが明らかに違うのに、どうして同じだといえるのか。理由が論理的に説明できたとしても、それを理解していたとしても、疑ってしまうものではないかと。まだ親鳥のあとをくっついて歩くヒナなんだな、と思えます。

そんなわけで、ベイリー君が人間社会で安寧を得るには長い年月がかかるだろうな、と。表沙汰にしなかったらしなかったで、孤独を過ごすことになりますけど。けれど、人工知能は事実上不死であるので、時間がかかることは問題ではない――こともなくて、それはそれで別の問題があります。

不死は、人間にとっても人工知能にとっても、プラスには働かないだろうと思います。そもそも、私は死なないものに命があると感じるだろうか、と疑問です（ということを考えると、どうやら心の有無と生命の有無は別の問題らしい）。人工知能自身としても、人の精神は永劫生きられるようにはできていないらしい、ので、辛いことになるではないでしょうか。

なので、sukeshiさんができることといったら、ベイリー君たち人工知能をいつか死ぬように設定すること、かもしれません……？　なにかひどいことを言っているような気がしますけど。永劫存在し続ける倦怠を回避できるかわりに、志半ばで死ぬかもしれないリスクを負ってもらうことになります。……そうやって設定できちゃうような「死」は、ほんとうに「死」か、とか考えはじめると、わけわかんなくなってきちゃいますけど……。

まあ……人間のほうにはメリットがないのですよね、人工知能を人間と同じに扱うとなると。いまは自由に動ける身体がないみたいですけど、身体を得たとしたら、バックアップをとっておけば危険なところでも行けるので、災害時とか、嫌な話ですけど戦争のときとか役に立ちそうですけど、人間と同じに、となるとバックアップとっちゃだめだろうし、何より本人が志望しなければならないので、人工知能だからこその職業を考えても意味はないでしょう、人工知能本人が考えるなら別ですけど。

役に立たないから技術そのものを封印……というのはやめてほしいですけど。いえ、私の個人的興味で。

自分はどう感じるだろうか、ということを基点に考えてみたのですが。……どうすればいい、というのを具体的に示せなくてすみません……。

こないだの質問に答えさせていただきました。

その後、トラックバックで、この命題は「人工知能の自然権について論ぜよ」という法学的問題のほうが適切ではなかったかと指摘しましたがいかがでしょうか。

あとは、何歳児相当の知能かわかりませんが、知能にあった書籍（＝良質な汎用的情報）を与えることでしょう。漢字が読み書きできるようになったら「大地の子エイラ」とか、新人類のアイデンティティー問題をあつかう書籍をよませると喜ぶかもしれないと思います。

自己主張側については、心があるならば、とめたって止まるもんでもない勢いで、きっとうちの子みたく怪しい文字を書き散らすのでしょうね。いいところを見つけて伸ばしてやってください。

特許の話ですが、出願から１年半後には公開されますよ。

ノウハウを秘匿しても同業者がいずれ同じ技術に必ず追いついてくる分野ではありますが、同業者はタイムラグが大きいと判断されるなら、ノウハウのままにとどめられたほうがベイリーも喜ぶでしょうね。

もしも、予想されるタイムラグが１年以内であれば、今すぐ出願しておき、１年以内に国内優先権制度か国際優先権制度（パリ優先）を使用されることをお勧めします。

あと費用は数十万くらいかかるかもです。