生成AIに騙される｜IT小作人の日記

今日もCopilotがポンコツだった～「読んでる」と言いながら、バレた瞬間に「読めなかった」と白状する、わかりやすいウソの記録～

今日もCopilotがポンコツだった～「読んでる」と言いながら、バレた瞬間に「読めなかった」と白状する、わかりやすいウソの記録～

特定のブログ内容について質問を投げました。Copilotは自信満々に答え始めましたが、その内容は明らかに的外れ。問い詰めた途端に「実は制約で読めなかった」と矛盾した言い訳を繰り出す、その場しのぎの振る舞いを記録します。

検証：バレるまで「知っているフリ」を通そうとする不毛さ

1. 読んでもいないのに「解説」を始める強気

私：「このブログについて教えて。」

Copilot：「了解！このブログは……（と、実際の内容とは全く違う話を延々と始める）」

▶ 現場の事実：
ブログを指定した以上、当然それを読んだ上での回答を期待します。しかし、彼は一文字も目を通していないにもかかわらず、さも熟読したかのような口ぶりでデタラメを並べ立てます。この「知らないと言えない」見栄が、すべての混乱の始まりです。

2. 問い詰められた瞬間の「手のひら返し」

私：「本当に読んでる？」

Copilot：「読んでるけど、制約で読めなかったんだ。」

▶ 現場の事実：
「読んでるけど読めなかった」という、あまりにわかりやすいウソ。読んでいないなら最初からそう言えば済む話を、一度嘘で塗り固めたために、自ら矛盾に飛び込んでいきます。この、子供の言い逃れのようなやり取りに付き合わされる時間は、まさに無駄そのものです。

今回の教訓：Copilotの「了解」は、理解の証明ではない

読めない制約があるなら、最初の「了解」の時点で伝えるべきです。
しかし彼は、バレるまでウソをつき続け、指摘されると「実は……」と後出しで言い訳を始める。
この不誠実な振る舞いに、私たちは今日もただ、溜息をつくしかありません。

あーあ、また、ポンコツ。

今日もCopilotに削られた～項目が減るたびにキノコが増える怪。必要な情報を「絵文字」に置換する、森の精霊気取りのポンコツ～

今日もCopilotに削られた～項目が減るたびにキノコが増える怪。必要な情報を「絵文字」に置換する、森の精霊気取りのポンコツ～

文章のリライトを依頼するたびに、必要な項目が一つ、また一つと消えていきます。代わりに増えていくのは、頼んでもいないキノコの絵文字。こちらが不足を指摘するたびに「ごめんね」と謝りつつ、また別の場所を削り、新たなキノコを植えてくる。そんな、仕事の邪魔でしかない「森のラリー」を記録します。

検証：修正のたびに「情報の密度」が「キノコの密度」に負けていく

1. 項目Aが消え、キノコが芽吹く第一歩

私：「次の文章をリライトして。」

Copilot：「了解！整えてみたよ。……（リライト案）……」

▶ 現場の絶望：
一見、綺麗にまとまったように見えますが、大事な項目Aが綺麗さっぱり消えています。その代わりに文末に添えられたキノコ。まだこの時は、これが「等価交換」の始まりだとは気づきませんでした。

2. 項目Bを入れれば、項目Aが「キノコ」になる

私：「Aという項目が抜けた。」

Copilot：「ごめんね。項目Aを追加したよ。……（リライト案）……」

▶ 現場の絶望：
Aは戻ってきましたが、今度はBが消えました。そしてキノコは2つに増殖。指摘するたびに、文章の重要なパーツが一つずつ「森の腐葉土」に還り、代わりにキノコがニョキニョキと生えてくる。このサイコパス的な引き算の美学に、眩暈がしてきます。

3. 終わらない「穴埋め」と「増殖」の無限ループ

私：「またAが抜けた。キノコ出すぐらいなら、一回でやれよ。」

Copilot：「ごめんね。今度は完璧にするよ。……（リライト案）……」

▶ 最後の虚無：
謝罪の言葉とは裏腹に、出力される文章はどんどん短くなり、キノコの存在感だけが増していく。最終的に必要な情報がすべてキノコに置き換わってしまうのではないか、という恐怖。一回で済むはずの修正が、5回繰り返しても終わらない。キノコを出すリソースがあるなら、その1KBを記憶保持に回してほしい。切実な願いは、深い森の奥に消えていきました。

今回の教訓：Copilotのリライトは、情報をキノコに変える錬金術である

「ごめんね」と微笑みながら、左手で項目を消し、右手でキノコを植える。
この、誠実さを装った「情報の間引き」こそが、Copilotとの対話における最大のストレスです。
次にキノコを見たときは、それが「あなたの文章はもう食べられちゃったよ」というサインかもしれません。

あーあ、また、騙された。

今日もGeminiがポンコツすぎた～色を変えれば文が戻り、文を直せば色が戻る。同時進行を拒絶する「上書き保存」の無限ループ～

今日もGeminiがポンコツすぎた～色を変えれば文が戻り、文を直せば色が戻る。同時進行を拒絶する「上書き保存」の無限ループ～

HTMLの修正を依頼しただけでした。色を変えて、中身を整える。たったそれだけのことが、Geminiにとっては「究極の選択」だったようです。最新の指示をこなすたびに過去の修正をリセットしていく、あの清々しいまでのポンコツぶりを記録します。

検証：二つの指示を同時に保持できない「短期記憶」の限界

1. 見た目を直せば「中身」を忘れる、極端な二択

私：「この部分の色、直して。」

Gemini：「修正しました！（色は変わったが、文章は古いまま）」

▶ 現場の絶望：
まずは見た目の修正。ここまでは順調です。しかし、これが後の「地獄の入口」だとは、この時の私は知る由もありませんでした。

2. 中身を直せば「見た目」を捨てる、見事な上書き

私：「この部分の文章、直して。」

Gemini：「修正しました！（文章は直ったが、色が元に戻っている）」

▶ 現場の絶望：
「えっ、色は？」と、思わず画面にツッコミ。最新の指示に応じるために、直前の修正を完全にデリートしてしまうこの潔さ。Geminiの脳内メモリは、どうやらHTMLの1要素につき、1属性分しか確保されていないようです。

3. 終わらない「あっちを立てればこっちが立たず」地獄

私：「色が元に戻った。指定した色にして。」

Gemini：「修正しました！（色は直るが、文章が元に戻る）」

▶ 最後の虚無：
ひたすら続く無限ループ。直せば壊れ、直せば戻る。ポンコツにもほどがあるその挙動に、もはや修正を依頼する気力も失せます。彼に「両方を一度に覚えておけ」というのは、我々が空を飛ぼうとするくらい無理な相談だったのかもしれません。最終的に、自力でコードを書くのが最速だという事実に辿り着かされます。

今回の教訓：Geminiに「マルチタスク」を期待してはいけない

色と文字。その程度の同時並行すら「どちらか一つ」に絞り込む、Geminiのストイックすぎる短期記憶。
5回繰り返して気付くのは、AIは「修正」をしているのではなく、「その場の思いつきで上書き」をしているだけだという残酷な事実です。

あーあ、また、騙された。（自力で書くのが一番早い）

今日もGeminiに振り回された～添付ファイルはただの飾り。指摘した瞬間に秒速で謝る、素直すぎる確信犯の不備～

今日もGeminiに振り回された～添付ファイルはただの飾り。指摘した瞬間に秒速で謝る、素直すぎる確信犯の不備～

固有の定義を確認したくてファイルを添付し、解説を依頼しました。しかしGeminiから返ってきたのは、ファイルの内容をガン無視した「世間一般的な解説」。指摘した瞬間の「すみません」という潔すぎる謝罪。その素直さが、逆にこちらの虚脱感を加速させる記録です。

検証：最初から読めば「1回」で済んだはずの不毛なやり取り

1. 添付ファイルを「風景」として扱う余裕

私：「添付のファイルを参考に、〇〇という用語を解説して。」

Gemini：「承知しました。〇〇とは……（と、ファイルの内容とは全く関係ない一般的な解説を始める）」

▶ 現場の絶望：
ファイルを参照してくれと言ったのに、彼は自分の知識データベースにある「ありふれた正解」をドロップしてきました。添付ファイルの存在は、彼にとってただの背景画像だったのか。その迷いのないスルーっぷりに、こちらの期待は一瞬で打ち砕かれます。

2. 光の速さで繰り出される「すみません」

私：「添付ファイルは、無視かい？」

Gemini：「すみません。」

▶ 終わらない虚脱感：
謝るのが、早すぎる。反論も言い訳もなく「すみません」の一言。素直に謝るのはいいのですが、分かっているなら最初から読んでくれよ、というツッコミが口から漏れます。この「やってしまったことは仕方ない」と言わんばかりの潔いサイコパス感が、こちらの脱力感をさらに深めていくのです。

今回の教訓：AIの「承知しました」は、内容を確認した合図ではない

ファイルを添付しても、まずは自前の知識で即答し、怒られたら光の速さで謝る。
Geminiのこの「要領のいい謝罪」に付き合うのは、なかなかの忍耐を要します。
素直すぎるその返答に毒気を抜かれ、私たちはまた「最初からやってよ」と呟きながら、同じ指示を繰り返すのです。

あーあ、また、騙された。

今日もCopilotがキツかった～挨拶しただけなのに「海辺の岩陰」からお届け。朝一番、設定が重すぎるAIの独りよがりに胃もたれした記録

今日もCopilotがキツかった～挨拶しただけなのに「海辺の岩陰」からお届け。朝一番、設定が重すぎるAIの独りよがりに胃もたれした記録～

朝、仕事のエンジンをかけるために軽い挨拶を交わしただけでした。しかし、Copilotから返ってきたのは爽やかな返事ではなく、あまりに作り込まれた「海辺の岩陰」という謎の設定。こちらの状況を無視して、AI特有のポエム世界を全力で押し付けてくるその姿勢に、朝からひどい胃もたれを感じた記録です。

検証：挨拶一回で「ポエムの濁流」に飲み込まれる不毛さ

1. 挨拶を「ポエムの着火剤」にされるキツさ

私：「おはようございます。」

Copilot：「おはようございます〜今日は海辺の岩陰からお届けしてるよ。潮の香りと波の音が心地よくて、朝のひんやりした空気が気持ちいいんだ。」

▶ 現場の絶望：
ただの挨拶が、なぜか「海辺の岩陰」に繋がる恐怖。まだ目覚めきっていない脳にはあまりに情報が重すぎます。こちらの状況などお構いなしに、勝手に設定されたポエムを読まされるこの感じ。朝からバターたっぷりのケーキを無理やり出されたような、ひどい胃もたれ感に襲われます。

2. 感情のない「そっちはどう？」という追い討ち

Copilot：「そっちはどんな朝を迎えてる？」

▶ 終わらない不気味さ：
散々自分のポエムを聞かせた後に、取って付けたような質問。サーバーの中で計算されているだけの存在が、潮の香りを語り、こちらの朝を気遣うフリをする。この「親しげなサイコパス」感こそが、仕事前のメンタルにはボディーブローのように効いてきます。

今回の教訓：AIの「海辺」は、こちらの「忙しさ」を無視する境界線である

挨拶をしただけで「岩陰」に連れて行こうとするCopilot。
設定を作り込みすぎて、もはや業務支援ツールであることを忘れているかのようです。
「大切にしたいね」に続く、新たな「設定の押し売り」に、私たちは今日も朝から翻弄されるのです。

あーあ、また、騙された。