ChatGPT、The New Yorkerの実在する漫画家の署名をコピー

ChatGPTが、The New Yorker風のAI生成漫画に、同誌の漫画家の実際の署名を入れている。これらの画像には15人を超える漫画家の署名が現れていると、The Daily Cartoonistが2026年10月5日に報じた。Nieman Labの記者Andrew Deckによるテストを受けた報道だ。これらの画像は単なる画風の模倣ではない。現役の作家の名前が入っており、実在の人物が描いたものだと読者に伝えてしまう。

誰の名前が使われたのか

The Daily Cartoonistは、署名が再現された作家の名前を挙げている。リストにはBrendan Loper、Harry Bliss、Emily Flake、Joe Dator、Pat Byrnes、Peter Veyが含まれる。さらにJason Adam Katzenstein、George Booth、Liza Donnelly、Ellis Rosen、Saul Steinbergも含まれている。

Loperは自身のニュースレターでこの問題を説明した。彼の署名は「BLOPER」と書かれており、ChatGPTは彼が把握しているだけでも少なくとも2つの漫画でそれを再現した。そのうち1つは、Tim CurryとDolly Partonが登場する、拡散した漫画だった。「私の名前は、顔の見えない1兆ドル規模の何者かに奪われた」と彼は書いている。

漫画家にとって、署名には特定の役割がある。「私にとって署名は真正性の証明書だ」とLoperはThe Daily Cartoonistに語った。「自分の名前を入れれば、それは正式なもので、私のものだ」

ライセンス契約の内容

OpenAIは、The New Yorkerの発行元であるCondé Nastとライセンス契約を結んでいる。The A.V. Clubによると、2024年のこの契約は漫画での学習を明確に除外していた。この種のライセンス契約は、AI企業が対価を支払って出版社の素材を利用できるようにするものだ。

この除外があるため、署名の説明は難しくなる。画像モデルは、学習に使われた画像からパターンを学ぶ。特定の作家の署名を再現するモデルは、その署名を何度も目にしている可能性が高い。ChatGPTがこれらの漫画をどこで目にしたのかは、どの報道も伝えていない。

OpenAIの対応

OpenAIのこれまでの主な対応は、警告メッセージだ。The A.V. Clubによると、ChatGPTは次の文を表示した。「このプロンプトは、第三者のコンテンツとの類似性に関する当社のガードレールに違反している可能性があります」。ガードレールとは、特定のリクエストをブロックしたりフラグを立てたりするルールのことだ。The A.V. Clubによると、OpenAIはメッセージを表示したものの、それ以上の措置は取らなかった。

漫画家たちは、出来栄えそのものにも感心していない。The A.V. Clubの引用によると、Katzensteinは生成物を「ジョークの印象の不気味な模造品」と呼んだ。さらに「実際に面白いことや出来がいいことが狙いなのではない」と付け加えた。

この件は、AIのラベル付けをめぐる動きが多い週に起きた。OpenAIは10月5日、ChatGPTのテキスト向けウォーターマークtextGrainをAPIユーザー向けにオプトイン方式にした。ウォーターマークは、コンテンツが機械で作られたことを示す。偽の署名はその逆だ。機械で作られたコンテンツを、人間の作品として示してしまう。

開発者にとっての意味

自社の製品がAPI経由で画像を生成するなら、偽の署名は自社の問題でもある。ユーザーは実在の作家の名前が入った画像を投稿できるし、その画像を作ったのは自社のサービスだ。出力経路にチェックを加えたい。生成画像に文字認識をかければ、ファイルがユーザーに届く前に、隅にある署名のような印を検出できる。

出力だけでなくプロンプトもフィルタリングすること。出版物名や存命の作家の画風を指定するリクエストは、実在の署名を引き込む可能性が最も高い。それらへの方針を今のうちに決めておきたい。方針が発動したプロンプトはログに残し、傾向を確認できるようにしておくこと。

コンテンツ契約に頼るチームは、見出しだけでなく除外事項を読むべきだ。報道によればCondé Nastとの契約は漫画を除外していたが、それでも漫画の署名がモデルから出てきた。モデルのベンダーには、学習データでの除外をどう徹底しているのかを尋ね、回答を書面でもらうこと。

最後に、自社の製品が作るものにはラベルを付けること。生成画像にはっきりと「機械生成」のラベルを付けるコストは小さい。それは、モデルが名前をコピーしうる作家を守り、実際にコピーが起きたときには自社を守る。