富士通、対話型生成ＡＩの幻覚やＡＩを騙す敵対的攻撃に対処できるＡＩトラスト技術を開発し提供開始
- 2023/9/28 08:21
- プレスリリース
■個人向けにも同社ポータルサイト上からトライアル環境を提供
富士通＜６７０２＞（東証プライム）は２７日、対話型生成ＡＩから出力される回答の信頼性を向上する２つのＡＩトラスト技術である幻覚検出技術とフィッシングＵＲＬ検出技術を開発したと発表。これらの技術を、「Ｆｕｊｉｔｓｕ Ｋｏｚｕｃｈｉ （ｃｏｄｅ ｎａｍｅ）－Ｆｕｊｉｔｓｕ ＡＩ Ｐｌａｔｆｏｒｍ」の対話型生成ＡＩコアエンジンに搭載し、２０２３年９月２８日から順次、日本国内に法人向けの実証実験環境として提供を開始し、個人向けにも同社ポータルサイト上からトライアル環境を提供する。今後は、グローバルにも展開予定。
１つ目のＡＩトラスト技術は、対話型生成ＡＩがデータに基づかないもっともらしい誤りを回答してしまう幻覚（ハルシネーション）を検出する技術で、対話型生成ＡＩの回答文をＡＩが意味解析し、且つ幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも幻覚を高精度に検出する。
２つ目は、対話型生成ＡＩが、悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトＵＲＬを回答出力してしまう問題に対応できる技術で、対話型生成ＡＩに本技術を搭載することで、ＡＩを騙す既存の敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なＵＲＬであることを伝える。
同社は今後も、対話型生成ＡＩをはじめとするＡＩの品質やセキュリティ、倫理などのＡＩトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、顧客が安心してＡＩを利用できる社会づくりに貢献していくとしている。（情報提供：日本インタビュ新聞社・株式投資情報編集部）
関連記事
ピックアップ記事
-
2024/10/5
株は千里を行って千里を帰る＝犬丸正寛の相場格言【先人の教えを格言で解説！】 （犬丸正寛＝株式評論家・平成２８年：２０１６年）没・享年７２歳。生前に… -
2024/10/4
人手不足倒産が過去最多を更新！深刻化する人材不足、賃上げに向けた課題も■２０２４年度上半期１６３件で過去最多更新 人手不足による倒産が急増している。帝国データバンクの… -
2024/10/3
トヨタ、空飛ぶクルマ実現へＪｏｂｙ Ａｖｉａｔｉｏｎに５億ドル追加出資■新たなモビリティ社会実現に向けた取り組み加速 トヨタ自動車＜７２０３＞（東証プライム）は１０月…
