敵対的サンプルとは

敵対的サンプルとは、人間にはほとんど違いが分からない程度にわずかなノイズ（乱れ）を加えたデータのことで、AIに誤った判断をさせるように作られたものです。

見た目はほぼ同じでも、AIが別のものと認識してしまうことがあります。

例えば、普通の猫の画像にごくわずかなピクセルの変化を加えることで、AIがそれを「犬」と誤認識してしまうケースがあります。

また、音声データでもわずかな雑音を加えることで、別の言葉として認識されることがあります。

ITパスポート試験では、「人間にはほぼ同じに見えるがAIを誤認識させるデータ」であることがポイントです。AIの弱点として出題されることがあるため、ノイズによって判断が変わる仕組みを理解しておきましょう。

こちらもご覧ください：ワンクリック詐欺とは