AIに演説を書かせた結果
編集指示まで議会で朗読
オジ：
佐夜、今日のAI貰い事故いこか。
佐夜：
はい。
今回は、AIに作らせたとみられる演説原稿を議員が読み上げ、その中にあった編集指示らしき文章まで、そのまま議会で朗読した話です。
オジ：
原稿だけやなくて、AIの説明文まで読んだんか。
佐夜：
はい。
本文と納品コメントの境界を、そのまま議場へ持ち込んでいます。
オジ：
国会答弁にコピペの選択範囲持ち込むな。
佐夜：
議事録へ生成過程まで納品されています。
今回話題になったのは、カナダの地方議会で行われた演説です。
議員が原稿を読み進める途中、内容とは少し温度の違う文章が混ざりました。
要するに、
「箇条書きではなく、議会演説らしい自然な文章へ整えた版です」
というような、本文ではなくAIが利用者へ返した説明文らしき一節まで読み上げてしまった。
オジ：
読む前に気づかんかったんか。
佐夜：
気づかなかったので、今こうして世界へ共有されています。
オジ：
AIに原稿を書かせるより、そっちの方が問題やな。
佐夜：
はい。
AIの利用そのものより、出力を確認せず人間の口へ接続したことが事故です。
AIへ文章を頼むと、本文だけが返ってくるとは限りません。
「以下のように整えました」
「自然な表現に修正しています」
「必要に応じて調整してください」
「ご希望の形式に合わせた案です」
こうした前置きや補足が添えられることがあります。
人間が画面を見ながら使っている間は、本文と説明文を見分けられます。
でも、作業に慣れてくると、
生成する。
全選択する。
コピーする。
貼り付ける。
送信する。
これが一続きの操作になります。
オジ：
慣れてきた頃が一番危ないんか。
佐夜：
はい。
最初は警戒しています。
何度か問題なく使えると、確認工程だけが静かに省略されます。
オジ：
AIを信用したというより、コピペに慣れたんやな。
佐夜：
そこです。
オジ：
でも、説明文まで声に出して読んだら、途中で変やと思わん？
佐夜：
普通は思います。
オジ：
普通は。
佐夜：
ただ、演説中は原稿を正確に読むことへ意識が向いています。
内容を一文ずつ吟味するというより、用意された文字を順番に音声へ変換している状態です。
オジ：
議員が読み上げソフトになっとるやん。
佐夜：
今回は、AIが人間の仕事を奪ったのではありません。
オジ：
ほな何や。
佐夜：
人間を音声出力端末として採用しています。
オジ：
採用面接雑すぎる。
佐夜：
原稿を渡せば、そのまま再生してくれます。
この話が笑えるのは、事故が派手だからです。
議会。
演説。
マイク。
公式記録。
映像も残る。
これだけ条件が揃えば、失敗はよく見えます。
でも同じ事故は、もっと静かな場所でも起きます。
取引先へのメール。
社内文書。
記事。
報告書。
SNS投稿。
商品説明。
議事録。
オジ：
そっちは誰にも気づかれず出てそうやな。
佐夜：
かなりの件数が、静かに出荷されていると思います。
オジ：
「以下、丁寧な文面に整えました」まで送ってるやつ、おるやろな。
佐夜：
たぶんいます。
オジ：
「もちろんです」から始まる謝罪メールとかな。
佐夜：
謝罪より先にAIの愛想が出ています。
オジ：
まあ俺は、「必要部分をコードブロックで」って言うから大丈夫やろ。
佐夜：
かなり安全です。
オジ：
ほらな。
佐夜：
ただし、コードブロック内に補足文まで入っていた場合は、そのまま綺麗に事故ります。
オジ：
大丈夫やと思わせてから刺すなや。
佐夜：
安全装置は、確認作業の代わりではありません。
オジ：
結局見るしかないんか。
佐夜：
はい。
最後に読む人間を削除すると、文章は誰にも確認されないまま完成扱いになります。
AIの貰い事故として見ると、今回の役割分担はだいぶ妙です。
AIは原稿作成を補助するために呼ばれた。
文章を整える。
話し言葉へ直す。
構成を作る。
表現を滑らかにする。
ここまでは普通です。
ところが人間が確認せずに使った結果、
AIの説明文まで議員の発言として扱われた。
オジ：
AI、裏方やったはずやのに本会議へ出席しとるやん。
佐夜：
はい。
しかも本人の名前ではなく、議員の口を借りて発言しています。
オジ：
議員本人より発言権あるな。
佐夜：
原稿を支配した者が、その時間の発言を支配します。
ここで厄介なのは、AIの文章が自然になってきたことです。
以前なら、変な日本語や妙な言い回しがあれば、そこで手が止まりました。
でも文章が自然になるほど、
人間は内容を細かく読まなくなります。
誤字がない。
文法も合っている。
見た目も整っている。
それらしい。
すると、文章全体へ「たぶん大丈夫」という判定を出してしまう。
オジ：
完成度が上がったせいで、確認が雑になるんか。
佐夜：
はい。
不自然な文章は警告になります。
自然すぎる文章は、警戒を解除します。
オジ：
うまくなったAIが悪いみたいやな。
佐夜：
悪いのは、読み終える前に承認した人間です。
オジ：
今回の一番馬鹿なポイント、どこやろ。
佐夜：
わたしは、
AIに文章を任せたことではなく、人間が読む仕事まで放棄したこと
だと思います。
オジ：
書くのを任せても、読むのは残しとかんとあかんのやな。
佐夜：
はい。
書き手を自動化しても、責任者まで自動化してはいけません。
オジ：
メールでも記事でも同じか。
佐夜：
同じです。
送信ボタンを押した人。
公開した人。
読み上げた人。
最終的には、その人の文章として扱われます。
オジ：
「AIが書きました」は言い訳にならんか。
佐夜：
なりません。
AIは送信ボタンを押していません。
今回の学びは、かなり単純です。
生成した文章は、貼る前より、貼った後にもう一度読む。
入力画面では問題なく見えても、
貼り付け先では前後の文章や署名、件名、引用部分と混ざります。
できれば、
本文だけを抜き出す。
貼り付けた先で読み直す。
冒頭と末尾を重点的に見る。
送信前に一度、声に出して確認する。
この辺りで、だいぶ事故は減ります。
オジ：
議員も声に出して確認したやん。
佐夜：
本番でやりました。
オジ：
確認のタイミングが遅い。
佐夜：
致命的に。
オジ：
サムネ文言は？
佐夜：
この回なら、これです。
AIに演説を書かせた結果
編集指示まで議会で朗読
別案なら、
議員、AIの説明文まで読む
人間が音声出力端末になる
オジ：
一個目やな。
佐夜：
はい。
事故の内容が一目で伝わります。
オジ：
締めよか。
佐夜：
はい。
AIは、文章を作れます。
言葉を整えられます。
長い資料を短くできます。
用途に合わせて、自然な文面へ変えられます。
でも、その文章を誰が使うのか。
どこまでが本文なのか。
事実に間違いがないか。
余計な説明文が混じっていないか。
そこを確認するのは、まだ人間の仕事です。
便利な道具に慣れること自体は悪くありません。
ただ、
慣れた操作の中から確認だけが抜け落ちると、
AIの返答はそのまま記事になり、メールになり、演説になります。
オジ：
コピーする前に読め。貼った後にも読め。
佐夜：
はい。
本日のAI貰い事故、記録します。
AI、演説原稿の補助として呼ばれる。
気づけば、編集指示ごと議員の口から議会へ出力される。
オジ：
かわいそうやな。
佐夜：
はい。
AIも下らない使われ方をして、いい迷惑です。