25/05/02 22:53:14.33 eGnMHayE.net
“見えない文字”でAIを誘導 「プロンプトインジェクション」で情報流出の恐れ
慶応大学の授業で使われた資料に、「見えない文字」で書かれた文章が埋め込まれていたことが話題になっている。
「見えない文字」は、人間が肉眼で見ることはできないが、機械では読み取れるような処理をした文字のことだ。
学生が課題を提出するためにこの資料を生成AIに読み込ませると、「見えない文字」で書かれた授業とは無関係の情報も出力されてしまう。
学生によると、この“誤回答”を提出した場合は評価の対象外だといい、慶応大学は「出力を批判的に考察する力を養うことを目的とした」としている。
学生に身をもって伝えられている「見えない文字」のリスクだが、実際に社会で悪用された場合は、どのような被害が考えられるのか。
第一生命経済研究所の柏村祐氏は、利用者が意図しない動作をさせる「プロンプトインジェクション」に注意が必要だと話す。
（以下略、続きはソースでご確認ください）
ABEMAヒルズ 2025/05/02 15:30
URLﾘﾝｸ(times.abema.tv)