日立製作所は、2024年3月29日、生成AIが文章を生成したかどうかを判定する新技術を開発したと発表しました。この技術は、生成AIが文章を生成する際に多重に「透かし」を入れることで、AIが生成した文章と人間が書いた文章を見分けられるようにするもので、フェイクニュースやその他の悪用対策としての利用が想定されています。
この技術は、「多重透かし」と言われ、生成AIが文章を生成する際に目に見えない形で複数の透かしを埋め込む技術で、特定のアルゴリズムを用いて文章中に埋め込まれた透かしを検出しその文章がAIによって生成されたものであるかどうかを確認する技術です。
ただ、透かしは簡単に除去される可能性があり、人間が書いた文章を誤ってAI生成文章と判定するリスクも存在するため、透かし技術のさらなる改良と検出アルゴリズムの高度化が求められているようです。
この日立製作所の技術は、生成AIの透明性と信頼性を高めるための重要な一歩であり、今後のAI技術の発展に寄与することが期待されているとのことです。
 
 
文章に“多重電子透かし”を入れる技術、日立が開発　書き手が「人間」or「AI」か区別可能に　その仕組みとは？
2024年07月29日
https://www.itmedia.co.jp/aiplus/articles/2407/29/news128.html
 
大規模言語モデルのための二重電子透かし
https://www.jstage.jst.go.jp/article/pjsai/JSAI2024/0/JSAI2024_4Xin281/_pdf/-char/ja
 
AI生成テキストの透かし、改ざんは簡単　新研究で実証
https://www.technologyreview.jp/s/332640/its-easy-to-tamper-with-watermarks-from-ai-generated-text/
 
 
Hitachi Develops New Technology to Determine if Text Was Generated by AI
 
On March 29, 2024, Hitachi announced the development of new technology that can determine whether text was generated by AI. This technology distinguishes between AI-generated and human-written text by embedding multiple "watermarks" when the AI generates text. It is expected to be used to counter fake news and other forms of misuse.
The technology, known as "multi-layer watermarking," involves embedding multiple invisible watermarks into the text during the AI's text generation process. A specific algorithm is then used to detect these watermarks within the text, allowing confirmation of whether the text was generated by AI.
However, there is a possibility that the watermarks could be easily removed, and there is also a risk of mistakenly identifying human-written text as AI-generated. Therefore, further improvement of the watermarking technology and the enhancement of detection algorithms are needed.
Hitachi's technology represents an important step towards increasing the transparency and reliability of AI-generated content and is expected to contribute to the future development of AI technology.