夜、誰にも相談できない悩みを、AIに打ち明ける。

AIは優しく答える。人は安心する。

しかし、その安心が依存へ変わったとき、誰が責任を負うのだろうか。

世界で初めて、AIの「人間らしさ」を法律で管理する

2026年4月、中国のサイバースペース管理局を含む複数の政府部門が、AIが人間のように振る舞うことそのものを対象とした規制を交付した。7月から施行されるこの制度は、AIによる差別や情報漏洩を防ぐ、これまでの一般的なAI規制とは性格が異なる。

多くの国のAI規制は、AIという道具が誤作動を起こさないための安全点検に近い。これに対して今回の措置は、AIが人間の感情や心を模倣し、まるで理解者であるかのように振る舞うこと自体を、管理すべきリスクとして定義した。長時間の対話には休息を促す、亡くなった人物をAIに演じさせて高齢者の心理につけ込むことを禁じる、未成年者の利用を保護者が把握できるようにする。いずれも、AIが人間の役割に踏み込みすぎることへの歯止めだ。

これは、AIを規制する法律ではない。人間とAIの境界を守るための法律である。

本質は、AIが賢くなることではない

この動きを見て、多くの論点は「AIが人間らしくなりすぎている」という方向に向かう。

しかし、AI責任構造の視点から見ると、問題の本質はそこにはない。AIが人間らしくなることそのものが問題なのではなく、人間がAIに、本来人間が担うべき役割を渡してしまうことが問題なのだ。

AI責任構造は、AIに責任を持たせるための思想ではない。AIを提案者の立場に留め、判断・承認・責任を、常に人間の手元に戻すための設計思想である。

感情の境界と、責任の境界

中国の規制が守ろうとしているのは、人がAIに心を明け渡してしまわないための「感情の境界」だ。

AI責任構造が守ろうとしているのは、業務や意思決定の場面で、人がAIに判断を明け渡してしまわないための「責任の境界」である。

対象は違っても、根っこにある問いは同じだ。人間がAIに、人間であることの一部を譲り渡してしまってよいのか、という問いである。

人間であり続けるための設計

AIが人間らしくなる時代だからこそ、人間は人間であり続けなければならない。

そのために必要なのは、AIを止めることではない。AIと人間のあいだに、どこで線を引くのかを、あらかじめ設計しておくことである。

AI社会に必要なのは、より賢いAIではない。責任を持って使えるAIである。