IBMがAIへの敵対的攻撃を見破るツールボックス拡張プロジェクト! DARPAも支援

2017-08-24_00h03_35 IT総合
画像認識や音声認識、文章生成の能力はいまや人間並みになってきているが、一方でAIには深刻な脆弱性があることが知られている。
認識対象、あるいはトレーニングのためのデータセットにほんのちいさなノイズを紛れ込ませることで、AIはいとも簡単に騙されてしまうのだ。
こうした敵対的攻撃を人間が見抜くことは困難で、現実世界の安全性や安定性を脅かすものとなり得ることから、防衛策の研究が進められている。その一端に
Source: グノシーIT

リンク元

コメント

タイトルとURLをコピーしました