生成AIが作成した文章を見破るツール開発

ツールを活用すれば、学生が生成AIを用いて執筆したレポートや論文を見抜くことができる。大学などから「チャットGPTに対応できるソフトはないのか」という要望を受け、開発に至った。

対象となるレポートや論文に含まれるキーワードを自動で検出し、そのキーワードをもとにチャットGPTを用いて複数の文章を作成する。作成した文章と元の文章を比較し、類似した部分を色付けて表示する。最終的な判断は教授などが行うことを想定。色付けされた部分の量や内容を見て、適切かどうかを見極める。

「コピペルナーV6（仮）」は日本語に対応。年内の商品化を見込んでおり、教育機関向けに10万円未満の価格で提供予定だ。

国外でも生成AIの文章を判別するツールの開発が進む中、一部の専門家はその正確性について懸念している。ベルリンの応用科学大学のデボラ・ウェーバー・ウルフ教授が発表した論文によると、こうしたAI判別ツールを騙すことは比較的簡単だという。

ウルフ氏は14の判別ツールを用いて、チャットGPTが生成した文章を評価した。その結果、チャットGPTが生成した文章に人間が手を加えたり、言い換えたりすることで、判別が難しくなることがわかった。

AIが生成した文章を正確に判別することは困難であり、誤検出や検出漏れにより学生に不利益が生じる可能性もある。AIの使用を検出するよりも、いかにして適切なAIの利用を促すかが課題となる。

【関連リンク】

・学生利用に懸念の「チャットＧＰＴ」　使用見抜くソフト、日本で初めて開発（産経新聞）
https://www.sankei.com/article/20230712-UISG3YWUZBGEXA7MOTO567I5DQ/

・「チャットGPT検出」は簡単に騙せる、14ツール調査で判明（MIT Technology Review）
https://www.technologyreview.jp/s/311986/ai-text-detection-tools-are-really-easy-to-fool/

TEXT：PreBell編集部
PHOTO：iStock