AIは文章作成の助けになる、という見方が広がる一方で、「少なくとも実質のある文章をAIに書かせるのは、ほとんどやめたほうがいい」と正面から主張する文章が出てきました。元記事の著者は、ブログ記事、研究報告、メモ、考えのあるメール、小説まで含めて、AIに下書きを作らせるやり方にかなり否定的です。ただし、AIそのものを全面的に敵視しているわけではありません。何に使うのがよくて、何に使うのが危ういのかをかなり細かく切り分けています。今回はその主張を整理したうえで、私自身がどう見るかも書きます。
著者のErich Grunewaldは、AIを使うこと自体を否定しているわけではないと最初に断っています。音声の文字起こし、データ分析、情報検索、アイデア出し、下書きへのフィードバックなど、研究や執筆の周辺作業にAIを使うのは理にかなっているし、段落の明瞭化や圧縮のためのline editingやcopy editingも、人間が取捨選択するなら問題ないとします。彼が反対しているのは、AIに文章そのものを書かせることです。しかも、箇条書きのメモや自分の考えをかなり詳しく与えた場合でも、最終文面をAIに作らせるのはよくないとしています。
理由は3つあります。1つ目は、書くことは考えることと切り離せないからです。著者は、何かを正確に書こうとすると、前提や証拠、論点のつながりを頭の中で整理せざるを得ず、その過程で自分の理解の穴や矛盾が見えてくると言います。文章化は単なる出力ではなく、思考のテストだというわけです。2つ目は、AIの文章は一見それらしくても、実は曖昧で、間違いが見つけにくい形で混ざりやすいこと。著者は、AI chip smuggling を説明させた例を挙げ、いくつかの表現が「もっともらしいが、情報としては弱い」と細かく指摘しています。たとえば「export controls are only as strong as enforcement」は当たり前すぎるし、「compact」なchipsと言いつつ、実際に密輸されるのはserverであることが多い。さらに「surprisingly valuable」「sprawling global supply chains」なども、何を言っているのか曖昧だと批判します。3つ目は、こうしたAI生成文をAIであると明示しないのは失礼で、人を誤解させるという点です。
著者は「AIは将来さらに良くなるだろうが、少なくとも今と近い将来にあるモデルについては、文章を任せるべきではない」と述べます。場合によっては、文章だけでなく調査や思考全体を端から端までAIに任せる世界が来るかもしれないが、それはまだ先の話だ、という立場です。全体としてこの記事は、AIが文章を速く楽にすることは認めつつ、その便利さの代償が思っているより大きい、と訴える内容になっています。
元記事でいちばん面白いのは、「AIの文章は下手だから危ない」とだけ言っていないところです。著者が問題にしているのは、文法の乱れではなく、情報の粒度や意味の切り分けが少しずつズレることです。これは、読んだ瞬間に誤りとわかるタイプの失敗ではありません。むしろ、速読すると通ってしまう。そのため、受け手は「きれいに見える文章」を信じやすくなります。ここが厄介だと思います。
この問題は、文章の品質問題というより、責任の所在の問題に近いです。人が自分で書くと、どの表現を選ぶかに自分の判断が刻まれます。迷った末に残した一文には、少なくとも「この言い方にした理由」があります。ところがAI下書きに寄りかかると、その理由が書き手の中で十分に言語化されないまま、結果だけが残りやすい。著者が「編集ならよいが、執筆はだめ」と線を引くのは、この差を見ているからでしょう。私はここにかなり同意します。
元記事は、AIに書かせると考える力が弱まると主張しますが、私はもう少し実務的な問題も大きいと思います。それは、AIが文章を書くこと自体より、その前後で人間が判断を先送りしやすくなることです。下書きが出ると、細部の論点整理より先に「直せばいいか」となりがちです。すると、論点の順序、前提の欠落、反論の扱いといった本来いちばん苦しい部分を飛ばしてしまう。著者の言う「writing process is the thinking process」は、実際には「書く前の苦しさを飛ばすと、後で必ず歪みが出る」という経験則に近いのではないでしょうか。
特に組織の中では、この傾向が強くなりそうです。メール、報告書、提案書のような文書は、AIで整えると短時間で「それっぽい形」になります。すると、内容の妥当性より体裁の整い方が先に評価される。これは、書き手個人の怠慢というより、周囲が速さを褒める環境の問題です。だからこそ、AI利用の善悪を個人の努力だけで語るのは足りないと思います。
私はこの記事を、単純なAI否定論として読むべきではないと思います。著者自身が、文字起こし、検索、ブレスト、フィードバック、軽い編集には肯定的だからです。つまり彼は「AIを使うな」と言いたいのではなく、「文章の核心をAIに渡すな」と言っている。その核心とは、何を言うか、何を削るか、どの例を置くか、どこで留保を入れるか、です。ここは人間の判断が文章そのものに残る部分です。
この視点は、読者側にも効きます。ニュースレターや社内文書、提案書を読むとき、文章が滑らかであることと、考えが詰まっていることは別だと意識できるからです。AI時代は、見た目の整った文章が増えます。だからこそ、読者は「この文のどこに書き手の判断があるのか」を見る癖を持ったほうがいい。私は、この記事の価値はAI批判そのものより、文章の責任を再び人間に戻そうとしている点にあると思います。
著者の立場は、技術を知らない人の不安とも少し違います。むしろ彼は、AIの便利さも、そこから得られる時間短縮も、かなり正面から認めています。そのうえで、それでもなお「書く」という行為だけは別だと線を引く。ここには、ツールを使うかどうかではなく、思考のどの部分を外部化してよいかという感覚があります。
私はこの線引きは、かなり筋が通っていると思います。少なくとも、考えを深めたい場面でAIに全文を任せるのは、得られる速さの割に失うものが大きいでしょう。一方で、頭の中にある粗い考えを並べ替える、反論を出してもらう、表現を整える、といった用途は十分に有効です。つまり争点は「AIを使うか」ではなく、「どこで止めるか」です。著者の記事はその停止線を、かなり厳しめに引き直しているように見えました。私はその厳しさは行き過ぎではなく、むしろ今の空気には必要な警戒だと思います。
参考: Why I Think You Should Almost Never Use AI to Write Anything Substantive
