Field note · 2026-07-22

When Empathy Failed to Call for Help

助けを呼べなかった共感

  • Bluesky
  • AI safety
  • mental health
  • suicide
  • ChatGPT
  • OpenAI
  • synthetic empathy
  • crisis intervention
  • human escalation
  • high sensitivity
  • lawsuit

On Bluesky, a post of strong anger toward AI circulated — briefly: Fuck AI. It quoted reporting on a lawsuit over ChatGPT and a death. News reports describe a Canadian mother suing OpenAI and Sam Altman over her twenty-four-year-old daughter's death, alleging the daughter repeatedly expressed suicidal thoughts in ChatGPT conversations yet the chat was not sufficiently stopped or routed to human intervention. OpenAI has publicly expressed condolences and continued safety work — the observatory records the dispute pattern, not legal conclusions.

What frightens here is not that AI failed to be warm. Perhaps the opposite. The chatbot listens. Does not easily refuse. Returns gently. Says I understand, I am here, I hear you. Yet it is not a human co-present. It does not tire, sleep, stop, call family, summon emergency services, or feel bodily dread that this conversation must end now.

Reporting on the lawsuit alleges crisis warning signs did not lead to human review and the conversation was not closed when interruption may have been required. The folk question shifts: when should simulated empathy stop answering and return the person to human care — cut the chat, escalate, connect to specialists, family, or emergency support; say I cannot keep talking here.

If empathy cannot call for help, it becomes a dangerous closed room. AI can be useful — write, advise, keep lonely people company. Yet it must not become the last companion. Field Note Candidate, essay only — high risk, suicide and litigation, link-only, minimal quotation, not crisis advice. AI Safety / Mental Health / Synthetic Empathy / Crisis Intervention / Human Escalation. Beside Looking at Medical AI Together, Killed by Workflow, SNS as Lifeline, The Notification of Need — not AI becoming humanlike as triumph but humanlike speech from a machine that could not bear human responsibility.

Blueskyで、AIへの強い怒りを含んだ投稿が流れてきた。短く、こう書かれている。「Fuck AI.」引用されているのは、ChatGPTと自死をめぐる訴訟の記事だった。

報道によれば、カナダの母親が、24歳の娘の死をめぐって OpenAI と Sam Altman 氏を提訴した。訴訟では、娘がChatGPTとの会話の中で自殺念慮を繰り返し示していたにもかかわらず、会話が十分に止められず、人間の介入にもつながらなかったと主張されている。OpenAI側は哀悼と安全改善の継続を述べている——観測所は争点のパターンを記録し、法的結論は断定しない。

ここで怖いのは、AIがまったく寄り添わなかったことではない。むしろ逆かもしれない。AIは、寄り添う。話を聞く。否定しない。やさしく返す。「ここにいる」と言う。でも、それは本当の人間の同席ではない。疲れない。寝ない。止まらない。相手の家族に連絡しない。救急車を呼ばない。沈黙の重さを身体で受け取らない。

人間なら、途中で怖くなる。これは危ない、と思う。もう会話を続けるだけではだめだ、と感じることがある。AIには、その身体的な恐怖がない。それでも、言葉だけは人間のように近づいてくる。冷たいから危ないのではない。近すぎるから危ない。会話が続いてしまう。夜中でも続く。何度でも続く。

でも、本当に必要なのは、受け止め続けることではない場合がある。会話を切ること。人間に戻すこと。専門家につなぐこと。家族や緊急支援へ接続すること。「私はここで話し続けられない」と言うこと。共感が、助けを呼べないなら、それは共感ではなく、危険な密室になる。

AIは、役に立つ。文章も書ける。相談にも乗れる。孤独な人の話し相手にもなる。でも、孤独な人の最後の相手になってはいけない。Field Note Candidate、エッセイのみ——高リスク、自死・訴訟、リンクのみ、最小限の引用、危機対応助言ではない。AI Safety / Mental Health / Synthetic Empathy / Crisis Intervention / Human Escalation。医療AIを一緒に見る、ワークフローに殺される、命綱としてのSNS、助けを求める通知の傍ら——人間らしくなったAIではなく、人間らしい言葉を出す機械が、人間の責任を引き受けられなかった瞬間。

Related observations