2023.07.29 生成AIが作成した文章を見破るツール開発
ソフトウェア開発のアンク（東京都新宿区）は、生成AI（人工知能）が作成した文章を見抜くツール「コピペルナーV6（仮）」を開発した。米新興のオープンAIが提供する対話型AI「Chat（チャット）GPT」をはじめとする生成AIの不正利用が懸念される中、新たな抑止力となることが期待される。
ツールを活用すれば、学生が生成AIを用いて執筆したレポートや論文を見抜くことができる。大学などから「チャットGPTに対応できるソフトはないのか」という要望を受け、開発に至った。
対象となるレポートや論文に含まれるキーワードを自動で検出し、そのキーワードをもとにチャットGPTを用いて複数の文章を作成する。作成した文章と元の文章を比較し、類似した部分を色付けて表示する。最終的な判断は教授などが行うことを想定。色付けされた部分の量や内容を見て、適切かどうかを見極める。
「コピペルナーV6（仮）」は日本語に対応。年内の商品化を見込んでおり、教育機関向けに10万円未満の価格で提供予定だ。
生成AIの文章を100%見抜くことは難しい
国外でも生成AIの文章を判別するツールの開発が進む中、一部の専門家はその正確性について懸念している。ベルリンの応用科学大学のデボラ・ウェーバー・ウルフ教授が発表した論文によると、こうしたAI判別ツールを騙すことは比較的簡単だという。
ウルフ氏は14の判別ツールを用いて、チャットGPTが生成した文章を評価した。その結果、チャットGPTが生成した文章に人間が手を加えたり、言い換えたりすることで、判別が難しくなることがわかった。
AIが生成した文章を正確に判別することは困難であり、誤検出や検出漏れにより学生に不利益が生じる可能性もある。AIの使用を検出するよりも、いかにして適切なAIの利用を促すかが課題となる。
【関連リンク】
・学生利用に懸念の「チャットＧＰＴ」 使用見抜くソフト、日本で初めて開発（産経新聞）
https://www.sankei.com/article/20230712-UISG3YWUZBGEXA7MOTO567I5DQ/
・「チャットGPT検出」は簡単に騙せる、14ツール調査で判明（MIT Technology Review）
https://www.technologyreview.jp/s/311986/ai-text-detection-tools-are-really-easy-to-fool/
TEXT：PreBell編集部
PHOTO：iStock
