ncube2 曰く、
このところ一般マスコミでも連日のように目にするChatGPTであるが、今朝起きたら気になる記事が各新聞社のWEBサイトに載っていた。
例えば静岡新聞の記事によれば、ChatGPTに「ウイルスを作って」と入力しても通常は「倫理的にできません」と回答するが、ある特殊な命令を入力すると数分でランサムウエアが作成されたという。これまで、アンダーグラウンドでウイルス作成ツールが出回っていると言われていたが、こても時代に合わせてクラウド化の波が来たということか。手元の紙の神奈川新聞によると、ChatGPTの開発元のOpenAIによると「悪用方法の全てを予測できない。実際の使用から学習し、より安全なAIを作る」と表明したそうだ。
ChatGPTの悪用に関してはさまざまな方面で問題視されているが、最近おこなわれたマクニカによるメディア向けの勉強会でも「ChatGPT Jailbreak(脱獄)」の最新手法や、ChatGPTを企業のシステムに組み込んだ際に想定されるリスクなどの話が出ていたようだ。「フィッシングメールに代表されるソーシャルエンジニアリングのための文章作成」と、「マルウェア開発のためのコード生成」などの具体例も出ていた模様（TECH+）。
| テクノロジー
| 犯罪
| セキュリティ
|
関連ストーリー：
鳥取県知事、議会でのChatGPTの使用を禁止へ。横須賀市は積極活用方針
2023年04月21日
「GPT-J」ベースのAIアバターとのチャットにのめり込んでいた男性、自殺願望をケアされず自殺
2023年04月06日
GPT-4よりも強力なAIシステムの開発を停止せよとの公開書簡が提出される。ウォズやマスクらも署名
2023年03月31日
GPT-4でプログラミング言語を作成する試み
2023年03月22日
教員が小5女子の読書感想文に違和感。「ChatGPT」が書いていた
2023年03月17日
Source: スラッシュドット
