「誤解を招く結果を生み出すために意図的に誤解を招く人工知能」とは何ですか？
私は、人工知能に依存するコンピューターシステムと、これに含まれる可能性のある脅威について書いています。たとえば、脅威のベクトルの1つは、ベイジアンAIにコンテンツをシードして結果を歪めることです。
質問
AIが事実と虚構の違いを区別できないと仮定すると、望ましい結果が得られるようにシステムに意図的にバイアスをかけるために使用される用語は何ですか？
「ハッキング」が広すぎる
「フィッシング」とは、人間が情報を開示するように誤解させることです。
「Fox-News-ing」の人間が最も適切な例えのようですが、私はすでに存在する用語が必要です...または、論文の冒頭で用語を定義しているので、それを発明することができます。
私のドラフトでは「FoxingA.I。」という用語を使用しています。今のところ
この質問は English.SE に適している可能性があります。
偽情報は 定義済み 意図的に誤った情報を提供することによって誰かに誤解を与える行為であり、多くの場合、ターゲットのアクションまたは動作。これは人間に固有のものではなく、偽情報は、入力を暗黙的に信頼し、それに基づいて行動する人工知能に適用されます。これには、悪意のある意味合いがあります。
例としては、その国の敵が大量破壊兵器を大量に集めたばかりであることを軍事戦術アドバイザーのコンピューターに伝えることが考えられます。適切にプログラムされているにもかかわらず、マシンは、最善の行動方針は大規模な先制攻撃であると結論付ける可能性があります。
Garbage In、Garbage Out、または [〜＃〜] gigo [〜＃〜] は、分析の用語であり、ロジック。コンピュータプログラムに非常に頻繁に適用されます。これは、基本的に、前提に欠陥がある場合、アルゴリズムによって行われた結論が正しくないことを意味します。この用語は、スケジューリングの概念から来ています：先入れ先出し（FIFO）および後入れ先出し（LIFO）。別の言い方をすれば、コンピューターがどれほど洗練されていても、コンピューターの出力は与えられた情報と同じくらい正確です。
この例としては、功利主義の政治顧問スーパーコンピューターに誤った効用値を提供し、機械が人間の生活の質を向上させようとしているにもかかわらず、 felicific calculus が正しくない、あるいは恐ろしい答えを与えることがあります。そのようなコンピューターに、人々が強盗に遭うことで大きなスリルを感じると言うなら、犯罪と戦うための予算を減らすことを示唆しているかもしれません。