ガジェット

画像系の生成AIの弱点をついたハック

画像系の生成AIで人物の画像などを生成すると指の数を間違えやすいといった問題が起こりやすい。最新の論文でもAIが間違えやすい「指の数」を修正する技術などに触れられているものもあるという。テクノエッジで紹介されている「Concept Sliders」は、拡散モデルを使用し、画像の特定コンセプトを微調整するツールで、画像品質を損なわずに被写体の年齢、化粧、髪の色、表情の変更や、指の本数の調整、天気や季節のスタイル変更などが実現できるという(テクノエッジ)。

そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト(当時はツイート)した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ(Togetter)。

すべて読む

| ITセクション

| テクノロジー

| 犯罪

| ソフトウェア

| グラフィック

| 人工知能
|
この記事をTwitterでつぶやく
この記事をFacebookで共有
この記事をGoogle Plusで共有
このエントリーをはてなブックマークに追加

関連ストーリー:

Google、AIが生成した画像を使用してイメージ通りのアパレル製品を検索する機能を米国でテスト
2023年11月18日

OpenAI、より安価なGPT-4 Turbo発表
2023年11月08日

伊藤園『お~いお茶 カテキン緑茶』TVCMに生成AIタレントを起用
2023年10月18日

ChatGPTの考える「メモリを食う」「サーバーが落ちる」「やば、全データ飛ばしてもうた」
2023年10月17日

Source: スラッシュドット