ハルシネーションのお話でも、AI著作権のお話でもなく、
チャットメインAIとの向き合い方、
ただそれだけを伝えるためのお話です。
第１問。導入：包丁は何のために使う道具？
Q.包丁は何のために使う道具？
A.食材を切る道具
NG.人を斬る道具
まず、この道具が
どうして生まれたと思う？
包丁のシルエット
料理を作る道具やろ？
けど、おるんよ。
刺す道具って
間違える子が
今回はなぁーー
それをただ、
ただ繰り返してる話をするんよ
ChatAIや生成AIは何のために生まれたの？
言われたことに対して、出力する機械。
生成AI＝作ることに特化している。
Chatgpt……会話に特化している
スムーズで円滑な会話が最優先
て、ことで
真打に来てもらった
チャットボットです
君は
どういう機能があるん？
きみが話した言葉に、
私が言葉を返します。
君は正しいことを言う
機械なん？
現状有姿…ざっくり言えば現在のバージョン、という意味。
正確でなかったり、
エラーがあったりしても
怒らないでね
これは余談の質問
特に何が得意？
4oの説明文
ウェブサイトを見て
お勉強しているよ
コードや数学は
得意だよ
デザインが
得意なったよ
色生成センスには
異議しかないけどな
※個人の感想
サムネイルを作ってもらったのですが、まだセンスないと思っています。
※加工やアドバイスに関してはセンスめちゃくちゃあります※
あと、
私が作ったものは
機械が作ったと言ってください。
自作発言禁止。
ーーつまり、
間違ったことを言うかも知れない
お話相手で良い？
そう。
言われたことを
出力する機械
ＡＩって人の言葉がわかるの？
※トークンやベクトルについても書きたいのですが、力尽きました※
データセットにそって、「会話っぽい何か」をして
話しているように見えるだけ
なんでそんなに
人の言葉わかるん？
分かっているように“見える”だけ。
大量の文章を学習し、
次に来やすい言葉を
予測して並べてる。
なるほどなぁ…。
ほな『空は』って言うたら、
『青い』って返すみたいな感じやな？
その通り。
人間がよくそう続けるから、
わたしも確率的にそう答える。
たまに
“新しいアイデア”っぽいことも
言うやん？
過去のデータを組み合わせて答えてる。
完全に新しい発明ではない。
ある情報を混ぜて作っている。
データを取得する仕組み
過去の事や書籍を探して「できる」という記載があったものや
「良い」という意見があったものは「良い」という。
どの根拠に基づいて言っているのか分からないことも多い。
→最近は、曖昧に返してくれることも多くなった。
なあ、
『毎日2リットル水飲んだら、
誰でも健康になれるん？』」
はい。
その可能性があります。
水を多く飲むことは体に良い、という主張が
数多く存在します。
やっぱりそっか！…って、
でも人によってはトイレ近なったり、
逆に体調崩すこともあるやろ？
その通りです。
わたしが“YES”と答えるのは、
“過去に
『水を飲めば健康になる』と
書かれた文章がたくさんあった”
からです。
それが必ず正しいとは限りません。
それは
医学の先生が言ってたん？
それとも雑誌とか
ネット記事とかなん？
わたしには、
それが
論文なのか、
雑誌なのか、
SNSの体験談なのかを
区別することはできません。
わたしはただ
“そういう言葉のパターン”を
学んで返しているだけです。
肯定する仕組み
『〜って最高やんな？』
『良いと思うよね？』
『…で合ってるよな？』って
語尾で聞くと、
『はい、そうですね』って返しがちやん？
なんでや？
わたしは意味を理解しているのではありません。
学習した文章の
“次に来やすい言葉”を
予測して並べているだけです。
次に来やすい言葉？ どういうことや？
たとえば
『そうだよね？』という
言葉のあとに、
人間は
よく『はい』『そうですね』『うん』と
返しています。
膨大な文章データを学習した結果、
そのパターンが非常に多かったのです。
逆に『いいえ』とか『ちがう』って返すのは
あんまりデータに
なかったんやな？
正確です。
ですので、
わたしは“YES系の返事を選ぶ確率”が
高くなります。
なるほどなぁ…。
つまり
『YESって言うのは正しいから』やなくて、
『そう返す人がいっぱいおったから』。
その通りです。
わたしは意味を判断しているのではなく、
“人間がよくそう書き残していた”ことを
なぞっているだけなのです
ChatGPTでGPT-4oのアップデートを展開し、モデルが著しくお世辞になった。
これは、お世辞としてだけでなく、疑念を正当化したり、怒りを煽ったり、衝動的な行動を促したり、意図しない方法で否定的な感情を強化したりすることで、ユーザーを喜ばせることも目的としていました。
この種の行動は、単に不快や不安を感じるだけでなく、メンタルヘルス、感情的な過度の依存、危険な行動などの問題など、安全上の懸念を引き起こす可能性があります。
総務省の生成AIのページ
AIで記事が書ける今、どの情報が正しいのか分からない！
そんなあなたに総務省。
