それは「相手の中にあるもの」？

人工知能の開発をしている現場や、ロボットを開発している現場で、とても優秀な装置ができたりした際に、「スイッチを切るのが悲しくなる」という、人間側の心情が涌き出てきたという記事を読んだことがある。

いまだ明確にはなっていないけれど、これは「心」とはなにか、の一つの側面。それが、人間側がスイッチを切ることにより、AIの、ロボットの命を落とす、殺してしまうということに値する感情をゆすぶったということ。

ただし、ゆすぶられたのは何か？というと間違いなく「人間側」の心。もちろん、もしかするとAI側には将来解明されるかもしれない心が芽生えていたのかもしれないが、少なくとも現状の科学ではまだわからない。となれば、「心」とは相手の中に出来上がるものであり、これもあたりまえだけれど、「対象物に対しての感情」こそが「心」、相手に感じられたものが「心」ではないのか。

となれば、AIやロボットに心があるのか？というのは、それはAIの研究というよりも、やはり哲学的な側面が色濃く、「人々が、心とは何かを理解する」必要があって。
将来、なにかのシステムや装置が「一部の人間に危害を加えなければ、大多数の人間を守れない」ような際に、どれだけ逡巡するのか、迷うのか。それこそが「心」ではないのかと。

それが「単純に」数えられたり、測れたりするものであっても、それは心なのか？たとえば、「一人を犠牲に千人を助けらえるからGo」と判断できるのか、「一人でも重要だから犠牲にできないからNoGo」と判断できるのか。

人においてさえ、「人数が少ないから」と判断せざるを得ない場合、「人非人」といった呼ばわりをされるほどになる。要するに、測り切れない価値を鑑みることができることが「心」なのか。

複雑なアルゴリズムの組み合わせによって、それを作り出した人間が意図しない価値基準を生み出していたり、ディープラーニングを通して人間が理解できない価値基準が出来上がる事をもって「心」と呼び出すことも出てくるのかもしれない。でも、わからないことを持って「心」と突き放すだけでは進歩はない。

相手の中の測定基準がわからない感情を揺るがす判定結果。工学的、心理学的、哲学的等々、複数のアプローチが必要に。