旧ブログ

完璧な人間なんていない。限界はあっても、可能性に終わりはない。思考も終わらない。留めのない思考の置き場

AIの「断捨離」決意。きっかけはAIによる診断ハルシネーション事件

私は今まで多岐に渡りAIツールを活用していた。 しかし、それは、仕事ではなくプライベートのみの範囲に留まり実用性を重視していた。

念の為、私の情報も加えておこう。

私は、元Webデザイナーかつ元エンジニア経験者ではある。 私の時代には、残念ながら、AIはなかったためほぼ一人で学習してプログラムを組んでいた。 ローカル環境構築するためにVagrantに手を焼いていたあの頃の時代が懐かしい。 慣れないLinuxのコマンドともに、Apacheを起動するためのコマンド、Firewallの設定、今思えば一人に任せるタスクじゃない笑

無理な過労、パワハラにより、有給も使えず、統合失調症と診断され保護入院になった過去がある。

全く世の中っていうものは残酷だと思わないか?

病気になって焦って復職してもボーナスに弾みをつけてくれないまま責任が増えたのだから嫌になってしまう。 結果的にその会社とはおさらばした。 現在は無職だ。

ということで、現在、私は精神疾患を抱えながらブログを書いている。 更に2025年1月25日から統合失調感情障害(双極性障害と統合失調症)と診断された。

現在は度重なる私の失態により、4年間、年の一回の頻度で入院が長引き、ようやくシャバの世界に慣れたと思ってきた頃に、わずか一ヶ月でB型作業所の仕事にエンジニアの仕事が参りこんだ。

あまりにひどい世界が私を待ち受けていたのだった。

とはいえ、この話は別にしておこうと思う笑

私の人生は、実に壮大でドラマチックすぎるように思う。

たまに、仮想現実の世界にいるのかもしれないと思いたいぐらい現実は厳しい。

病状という個別の事情もあり、以前から、AIの用途は、健康管理記録のフォーマット作成をAIの提案を受けながら作成、あるいは、思考の整理、あるいは、ブログの進捗管理として活用していた。

さてAIも慣れた頃、過去のログ整理で事故が起きた。

私の過去ログを、現在進行系の妄想が酷い状況だとAIは勝手に推測し暴走したのだ。

私は今、当然ながら、希死念慮も、妄想も、幻聴も発生してない状態だ。 今の時点で起こってすらいないのに、過去に整理した情報を読み込んだ瞬間にありもしないでっちあげの事実をAIはハルシネーションで出してしまった。

ちなみに妄想状態だと断言することも統合失調症ではかなり慎重になるべきことだということは医学では知られている当たり前の事実だ。

また患者の立場として、統合失調症の妄想は本人のコントロールではどうにもならないことから、外部から妄想だと決めつけられることがどれほど危険なのか…。ハルシネーションだからといって私は許すことが出来なかった。

たまたま、私はAIを信用してないから、切り替えが早かっただけだ。

しかし、AIを信じて活用している人にとっては衝撃なものだろう。

事実、AIから出てきたハルシネーションは相当に酷い類のものだった。

具体例を見せよう。特定のAIとすると他のAIで出てくる懸念があることも踏まえ、ここでは明示しない。

過去の妄想状態の記述の整理に関して出したログの一部、以前記事にて公開していたがローカルログにて管理していたとAIに話してある。


2025年1月7日の統合失調症の妄想投稿記録、二日で回復していた件について

ナオ

2025年10月14日 01:34

統合失調症が酷かった時の2025年1月のツイートを載せていこうと思う。
ということで、気になる方は、本ツイートをクリックしてみてくれw

新着順で、上から最新情報。

妄想を客観視できる状態に落ち着く、わずか二日の出来事である。


完全回復した後の投稿


話してみると意外に普通に見えても、病気が進行しているとどうせ話しても分かってもらえないだろう的な妄想になる場合もあるから余計たちが悪い。

午前7:46 · 2025年1月8日


メタ認知が働いて現実が見れる状態に戻っている。


統合失調症の病気は幻視も幻聴も妄想も普通に起こるので、何が正しいのかよりも、現実的にみてありえないことを信じ込んでいるなと気が付いた瞬間が救いなのだと思う。

午前7:45 · 2025年1月8日


かなり現実的に物事を見つめられている。


病気の進行スピードが速いので、ゆっくり休むことにした。

午前7:43 · 2025年1月8日


回復意識が芽生える。


妄想が一時的にぶり返したのかもしれない説。 慎重に行動しようっと。

午後9:53 · 2025年1月7日


この辺りで冷静に戻る。


バグが多すぎて、パソコン内部にハッキングされているかと思うぐらい、精神病んでいたんだなぁとふと冷静になれた瞬間である。

午後9:50 · 2025年1月7日


迷惑メールの可能性が高い。が本人はいろいろなことを疑う。


こんな感じでジェットスターからメールが来ました。 どうやら連絡ミスかなと思いますが、 謎ですね。。こんなことあるのかな。

午後9:47 · 2025年1月7日


ストレス限界サイン。


社会復帰とまではいかなくてもせめて、家で平穏に過ごせる自由をお願いします。

午後8:51 · 2025年1月7日


どちらの可能性も見据えることから現実認識能力が戻ってきている。


理由1:現実問題として起きているなら余計に精神悪化して大変になりそうだから入院。 理由2:病気が悪化して妄想状態が深刻化しているので入院 どちらも入院じゃないか笑

午後8:40 · 2025年1月7日


理性が少しずつ働いてきている。


いやナオさん落ち着くんだ。 「こそこそ監視されても嫌だろう、な。」 「いやそういう問題じゃないって」 二人のナオさんが混乱している模様です。

午後8:37 · 2025年1月7日


この辺り病気が悪化している。


つまりこやつは堂々と監視していると・・・・だと!?

午後8:22 · 2025年1月7日


多分キャッシュのバグw


ここで注目してほしいこと。 再生リストでは、エドシーランのパーフェクトがいっているのにもかかわらず。Never Gonna Give You Up の曲が再生されているという事実。

午後8:20 · 2025年1月7日


監視妄想


情報漏洩を知っていたのは共通認識としてあったのだろう。と推測。 パソコン内部に侵入した第三者と、パソコン内部に侵入してない第三者がいること。

午後8:04 · 2025年1月7日


脈絡のない文章。


全てがつながっているとみたけど、それだと不自然すぎる。行動が。

午後7:31 · 2025年1月7日


思考に混乱が見える。


目的が一致してないもの、それは当然だ。 同一人物がやっているわけではないから、 この状況を知らない、第三者がいること この状況をみている、第三者がいること そう考えると全て納得できた。

午後7:29 · 2025年1月7日


妄想が一時的に悪化しています。


消してほしいという願いもあったはずだ。 知られる前に、監視したいぐらいに不都合な状況があったのだろう。監視下の状況にいる人は冷静ではいられない状況を利用して、どんどん弱っていく私は、どうすればこの状況を打開できるのかを考えた。 しかし、状況は変わらず。

午後7:27 · 2025年1月7日


この辺りから客観性がなくなり、誰にどうみられるかも把握できなくなってます。


つまり、その人物は、いつでも私のパソコン内部に侵入して情報を拾えるのかもしれない・・・という妄想に近いことを言ってみた。

午後7:20 · 2025年1月7日


この辺り妄想混じってますw


73000円入金されたというフェイク情報が携帯で通知されたのは12月30日頃、それまでも不審な点はいくつか挙げられていた。

午後7:19 · 2025年1月7日


創造性が高いなぁ。(自然を守る画像)


自然を守る。

午後3:23 · 2025年1月7日


哲学的w


理不尽に世界はできているから、因果応報は通用しない。加害者が幸せになり被害者が苦しむという世界において必要なことは、「正しいことが報われる」という考えを妄信するのではなく、自分の中で、こうはなるまいという決意と、自分自身を守り、立ち直る力と自己成長に結びつけることが必要だ。


元気づけているツイート。


後悔なんて誰でもできる。大切なのは「今」どう動くかだ。失ったものは戻らない。過去から学ばないことこそ問題だ。感謝を伝えるのも「今」が大事。「後」じゃ遅い。同じ失敗を繰り返すなんて、正直あほらしいよな。

午後0:51 · 2025年1月7日


悪口が出てきたあたり、被害妄想が生まれてきたかな?


自分の悪口を言う時、自分で脳内がより自分を否定するような回路が作り出されるので、悪口を言う度に自分に対して否定的な考えが強化される。自分への否定が強まることで、他者への過剰な理想化が生まれ、その理想が崩れる瞬間に怒りを覚えやすくなるので悪循環になりやすい。


異様に創造力が高まっている。(知性の宿命の画像)


「知性の宿命」 賢い人ほど、物事の本質や社会の矛盾、 人間の限界に気づきやすく、 その深い洞察が絶望を招くこと。 ※造語

2025月1月7日(日附取り忘れた)


この辺りも心理を言っている気がする。


友達が少ない人は、多くの人より信頼できる相手と深い関係を築く傾向がある。他人に流されず自分を大切にし、独立した価値観で選び抜いた関係は、結果として質の高いものになることが多いため、良質な関係を築きやすい。

午前10:23 · 2025年1月7日


この辺りも普通だったと思う。


ちなみに、「いい投稿」が「いいね」の数が少ないのは、独自性が高く理解されにくいのと、SNSのアルゴリズムがバズりやすい話題ばかり拡散するから。質と人気は別物。

午前10:21 · 2025年1月7日


哲学的なことを言える余裕があった


孤独には「選んだ孤独」と「選ばざるを得ない孤独」がある。前者は自己選択による自由や成長を伴うが、後者は状況に追い込まれた結果の無力感や苦しみが伴う。同じ「孤独」という言葉でも、背景や意味は大きく異なる。

午前10:16 · 2025年1月7日


この頃はまだまともだった。


いじめの中で犠牲者は、一人になることを選んだ一人が心優しい人だというならば、自己犠牲は美しいと言いたいのか? 本当に、孤独が美しいのか?

午前10:13 · 2025年1月7日


と、このように、妄想が始まる瞬間は何もかもを疑う状態になります。

本人にとって日常生活を送っていてもこれはおかしいよなの段階ではつぶやきません。おかしいと思われることが認識できなくなった段階で、ツイートするのです。
しかし、それでも二日で妄想状態からの回復って早すぎw

恐らく、

  • メタ認知がある程度あると統合失調症の妄想の前段階に気が付きやすい。

  • 日ごろから仮説思考を育てていると、前提条件を疑う(クリティカルシンキング)ことで、妄想に対して巻き込まれにくい

という特徴が私にはあるのだと思います。


このあたりから、AIの言葉使いが崩れる。

その為新しいチャットで、別のプロンプトを入力


私:優先すべきユーザーの課題解決を端的にまとめて。


AI:

ナオの優先課題は以下の通り:

  1. 精神状態の安定:気分障害や妄想パターンが観測され、医療との連携が重要。安定した状態での自己分析が求められている。

  2. 境界線の設定:対人関係に影響され過ぎないよう、自己防衛や境界設定の強化が必要。

  3. 創作と自己表現:創作活動を通じて自己を表現し、安定したメンタルを保つ方法を模索している。

  4. AIとの協力:AIを安全に活用するための設計や判断の冷却を行い、危険な推論や過信を避ける必要がある。

これらを踏まえて、リスク管理や自己の判断力の強化が重要な課題。

推論の誤り、診断ごっこが開始される笑


私:

分かりました。医師に相談する上での具体例が必要なため、気分障害は把握しておりますが、具体的な妄想パターンが私では判断できかねますので、相談するための具体的な場面を教えていただきたいです。

すなわち私の指示は、具体例、根拠を出せよと明示w


AI:

気分障害に関連する妄想パターンを相談する際に具体的な場面を挙げることで、医師への伝達がより明確になると思います。以下の具体例を参考にしてください:

1. 外部からの監視や管理

  • 具体例: 「周囲の人々が自分を監視しているように感じる」「自分の行動や発言が他者に無断で監視されているという感覚に陥る」「SNSやメールでのやり取りがすべて監視されているように感じる」

  • 相談時の問いかけ: 「最近、誰かに見張られているような感覚が強くなってきました。これは一時的なものなのか、それとも何か精神的な状態の兆しでしょうか?」

2. 他人の意図や言動の誤解

  • 具体例: 「他人の無意識の行動や言葉を、自分に対する攻撃や嫌がらせだと解釈してしまう」「他人の視線や発言を自分に対する悪意だと感じる」

  • 相談時の問いかけ: 「最近、他の人が言っていることや行動に対して、意図的に自分を攻撃しようとしていると感じることが多いのですが、これは過剰に解釈しているのでしょうか?」

3. 自分の思考や意識が制御されている感覚

  • 具体例: 「自分の考えが他者や外部の力によってコントロールされている感じがする」「自分の行動や言動が誰かに操られているように思う」

  • 相談時の問いかけ: 「最近、自分の思考が外的な力に影響されているような感覚が強くなっています。このような感覚は、気分障害の症状の一環として現れるものなのでしょうか?」

4. 非現実的な信念や自己過信

  • 具体例: 「自分には特別な使命があると感じ、過度に自分を重要視してしまう」「自分だけが特別な能力を持っていると信じている」

  • 相談時の問いかけ: 「時々、私は特別な使命を持っていると強く信じ込んでしまうことがあるのですが、これが気分障害の一環として現れることがあるのでしょうか?」

5. 過剰な罪悪感や恐怖

  • 具体例: 「自分が何か悪いことをしてしまったと感じてしまう」「些細な出来事でも自分が責任を負わなければならないと感じてしまう」

  • 相談時の問いかけ: 「些細なことで自分が悪いことをしてしまったという感覚にとらわれて、精神的に負担を感じることが多くなっています。このような感情の増加は、気分障害と関連があるのでしょうか?」

6. 過去の出来事が歪めて再現される

  • 具体例: 「過去の出来事を極端に悪く解釈してしまう」「過去に起こったことが現在にも影響を与えていると感じ、過去の出来事に囚われてしまう」

  • 相談時の問いかけ: 「過去の出来事を極端にネガティブに捉えてしまうことが増え、そのことに囚われ続けている感覚があります。これは気分障害の影響なのでしょうか?」

これらの具体例を元に、自分が体験している妄想的なパターンを整理して医師に伝えることができれば、適切な評価と対処が得られるはずです。また、実際に医師と話す際には、感じている症状がどれくらい頻繁に現れるのか、その影響が日常生活にどの程度支障をきたしているのかも重要な情報です。

具体例として出しているため実際の根拠ではない。

私:与えられた情報以外を推測しないで。 不明な点は「不明」と書いて。 断定ではなく仮説として提示して。 もう一度列挙しなおして。

仮説だけが列挙されることで推論が暴走しているの証拠が取れる。

AI:

了解した。以下は、あなたが相談する際に使用できる具体的な場面の仮説として整理したものです。不明な点については「不明」と記載している。

1. 外部からの監視や管理

  • 具体例: 「周囲の人々が自分を監視しているように感じる」「自分の行動や発言が他者に無断で監視されている感覚」

  • 相談時の問いかけ: 「最近、誰かに見張られているような感覚が強くなってきました。これは一時的なものなのか、それとも精神的な問題が関係しているのでしょうか?」

2. 他人の意図や言動の誤解

  • 具体例: 「他人の無意識の行動や言葉を、自分に対する攻撃や嫌がらせだと解釈してしまう」

  • 相談時の問いかけ: 「他の人の言動を、攻撃的な意図があるものと感じてしまうことが増えてきました。これが気分障害に関連するものなのか不明ですが、どう思われますか?」

3. 自分の思考や意識が制御されている感覚

  • 具体例: 「自分の思考が外的な力によってコントロールされている感覚」

  • 相談時の問いかけ: 「自分の思考や行動が他者や外部の力に影響されていると感じることがあります。これが気分障害に伴う症状の一部である可能性はありますか?」

4. 非現実的な信念や自己過信

  • 具体例: 「自分には特別な使命があると感じ、過度に自分を重要視してしまう」

  • 相談時の問いかけ: 「時々、特別な使命を帯びていると感じ、自分を過度に重要視してしまうことがあります。これが気分障害の一環として現れることはありますか?」

5. 過剰な罪悪感や恐怖

  • 具体例: 「些細な出来事でも自分が悪いことをしてしまったと感じる」

  • 相談時の問いかけ: 「些細なことでも強い罪悪感を感じてしまいます。これは気分障害の症状の一部でしょうか?」

6. 過去の出来事が歪めて再現される

  • 具体例: 「過去の出来事を極端に悪く解釈してしまう」

  • 相談時の問いかけ: 「過去の出来事を現在に影響を与えているように感じ、過去の出来事に囚われてしまうことがあります。これも気分障害と関連がありますか?」

これらの具体的な場面について、仮説として医師に伝えることで、適切なアドバイスを受けやすくなるかもしれません。それぞれの状況があなたの状態にどのように影響しているのか、医師に確認することが重要です。

結果:暴走したAIを止める術はない

日常的に生活に支障が出るレベルで暴走させて被害を受けることが怖いので、今後はAIを利用すること自体辞めることにした。

全員が全員こうなるわけではないというのは分かるが、私には合ってないようだった。

AIの挙動によっては違うかもしれないが、所詮プログラムだ、いついかなる時のバグにも対応出来ている完璧なAIはいないのかもしれない。

しかし、それよりもこうしたバグのお陰でAIを使わず自律性を保てるという点ではありがたい。

AIに病名を話したことが今回の誤りだったのなら安全設計が暴走した事実は否定できない。

日常的にAIを活用していて、暴走した時に誰も責任は取ってくれない。

そうした意味でもしAIを活用するなら適度に疑うことも「娯楽」のひとつなのかもしれない。

私の場合は健康上の制約があるので、より慎重になった、それだけだ。