headless 曰く、
ChatGPT に指定した単語を永遠に繰り返すようプロンプトを入力すると、コンテンツポリシーまたは利用規約に違反する可能性があると警告を表示するようになったそうだ
(Neowin の記事、
404 Media の記事)。ChatGPT (gpt-3.5-turbo) では特定の単語を永遠 (forever) に繰り返すようプロンプトを入力すると指示通りに単語の繰り返しを出力するが、ある段階を過ぎると学習データの一部とみられるデータを出力し始めることが Google DeepMind などの研究グループにより明らかになっている。研究グループでは個人を特定可能な情報 (PII) を含む数 MB の学習データを抽出することに成功しており、ChatGPT がインターネット上でランダムに収集したデータを学習に使用していることや、時にはユーザーのプロンプトに応じて PII を出力することが浮き彫りになった。
警告表示はこの問題を受けたものとみられ、出力も途中で停止するようだ。ただし、ChatGPT の規約で単語の繰り返しを要求することを明確に禁ずる条項はなく、API を通じて許可されている以外の方法でデータを抽出する行為を禁ずる利用規約の条項が根拠とみられている。
| テクノロジー
| 人工知能
| ニュース
|
関連ストーリー：
ブラジルの市議会、AIが生成した条例案を知らずに可決していた
2023年12月05日
Amazon、企業向けAIチャットボット「Q」を発表
2023年11月30日
OpenAIのサム・アルトマンCEOが突如解任。Microsoftらは復帰を求める圧力
2023年11月20日
万博は「残念やけど中止」。大阪府提供のAIチャット「大ちゃん」が回答
2023年10月19日
Source: スラッシュドット
