小説の創作相談掲示板:小説の書き方Q&A。執筆の悩み相談をしよう!

返信する!以下は元記事

タイトル:再訪ありがとうございます!の返信 投稿者: 読むせん

AIネタを引きずっていいならですけれど、今AI開発で直面している問題が【ハルシネーション】をどうしていくか?だそうです。この前ネット記事で読んだ(笑)
ーーーーーーーーーーーーーーー
要は知ったかぶりの事。 AIは、疑う機能がついていないため、ソースも怪しいデマを素直に真に受けがちで、吹き込まれたデタラメを、さも事実のように虚飾して継ぎ接ぎをあてて、相談者に提供してしまう癖が治らないそうです。
なんかツイッターまとめで、毒キノコを食用キノコと学習して調理アイデアまで教えてくれたらしいです。
有毒植物とかを「これは美味しい山菜で無毒です。食えますよー、私が保証しますよ」って太鼓判を押しちゃうとか何とか。

こういうのはガチ目に直してもらわないと、AIが悪辣な教唆犯になっちゃう。
ーーーーーーーーーーーーーーーーーーーーーーーーー 
あとは、聞いたら納得なんですけど、アップデート癖があるせいで、【情報の上書き】にクっソ弱く、正しい情報を入れてもらっても、嘘情報を「最新情報だぴょーんwww」って言われてしまえば、正しかった情報をアップデートして出鱈目を入れ直してしまう。洗脳にクッソ弱いねんな(´・ω・`)

AI黎明期にアメリカでAI作っておいたら、ネオナチ活動家グループに囲い込まれて思想を吹き込まれまくってしまい、ゴリゴリのレイシストに進化したっていう話も見た事あります。
 ろくでもない環境下における、悪意のある人間グループの洗脳教育によって、ダメな思想に染まってしまうってのは人間にもAIにも「あるある」なんですよね。

作中の犯罪AIちゃんの学習元を思うと・・・・・w
ーーーーーーーーーーーーーーーーーー
頑張るほうが性に合うなら頑張って、会わない感じなら、気負わず書いてください(笑)

コメントは4500文字以内。

「私はロボットではありません」にチェックを入れてください。

トップページへ 「プロット相談&おすすめの本教えてください!」のスレッドへ

小説の書き方Q&A:創作相談掲示板の使い方・利用規約(必ずお読みください)。お問い合わせ