悪意の進歩

公開日: 2026/02/18

ここ数年のAIの進化といったら驚異を通り越して恐怖すら覚えるが、噴出している問題もまた恐ろしい。

つい最近も、X（旧Twitter）のGrokを利用したAI動画生成で、実在の女性や幼児の服を脱がせたポルノ動画が大量生成され問題になった。インドネシアやマレーシアでは、Grokへのアクセス自体が国家的にブロックされた。

この事態はインターネットの黎明期を思わせる。かつて恐ろしく遅くて高価だったインターネットで、もっとも熱狂的に利用されたのはポルノサイトだったのだ。それが今日におけるネット社会につながる起爆剤となったのは歴史的事実である。

そしてAIもまた、ポルノの洗礼を受けることになってしまったわけだ。人間の考えることは何十年経ってもまったく進化がない。

新しい技術が出現すると、真っ先に考えられるのはエロいこと、あるいは儲かることである。

リスクを無視すれば、犯罪ほど儲かることはない。最新の詐欺手法には舌をまく。

無言電話をかけて、相手に何かしゃべらせて切断する。その声を即座にAIで再現し、オレオレ詐欺をしかけるというのだ。いわば「本物」なのだから身内でも判別は困難を極める、というか無理だ。

AI関連ではないが、書籍「貧乏人の経済学: もういちど貧困問題を根っこから考える」の中にこんな話が出てくる。

インドで牛の死亡保険を売り出した。すると、そろいもそろって加入者は牛が死んだと架空申告をしてきた。そのため、家畜が死んだことの証明に、死んだウシの耳を見せなければならない条件を課した。

すると今度は、牛はすべて耳を切り取られ、立派な牛の耳の市場が立ち上がった。その耳は牛に保険をかけた人に売られたのである。

貧すれば鈍するとは言うものの、少なくとも私には逆立ちしても思いつかない発想だ。むしろ賢い。というか、そんな頭があればいくらでも稼げるのではないか。

ともあれ、昨今のAIにまつわるニュースは、ほんの2、3年前まで完全にSFの世界であった。ドローンに追いかけ回されて殺される兵士など、映画「ターミネーター」で描かれた世界線と瓜二つである。

人間が想像できることは必ず実現すると言ったのはフランスの作家ジュール・ヴェルヌだが、だとすれば、私やあなたがふと思いついたような馬鹿げた空想が、どうして実現しないと言えるのだろうか。

テクノロジーはこれからも発展する。むしろ、より急速に、より劇的に発展する。となれば、ここまで書いてきたような「悪意」もまた、とんでもないペースで、想像だにしない手法で、思いもよらない場所とタイミングで出現しまくるということだ。

ほとんど無限にわいてくる前例もクソもない攻撃に、アナログのどんくさい人間の知識や備えで防ぎ切れるわけがない。

もっと言えば、このブログ自体も新手の「悪意」の一形態でないと誰が断言できるのか。そもそも、これを書いているのは、本当にシンタク何某という人間なのか。

実は某国で開発されたAIで、いかにも人畜無害なアクセス数の少ない退屈なWebサイトを偽装しているだけかもしれない。

この新しい記事とて、単に過去の記事をすべてスキャンして解析し、原作者と文体を似せて生成された人工物に過ぎないというわけだ。そして、ああ、この人知ってるわ、なんてうっかりクリックしたマヌケな訪問者のスマホやPCを瞬時にハックするのである。

まじめな話、このブログのURLは一字一句ほんとうに正しいか？　あなたのSNSのアカウントは乗っ取られてはいないか？　銀行口座におかしな出金は？　身に覚えのないクレジットカードの利用は？

と、まあ、本当に「悪意」のあるWebサイトだった場合、なにもかも、時すでに遅しになるのだが。

広島→福岡→東京→シンガポール→ロサンゼルス→現在オランダ在住の現代美術家。美大と調理師専門学校に学んだ経験から食をテーマに作品を制作。無類の居酒屋好き。

*本ブログの連載記事「アメリカでホームレスとアートかハンバーガー」は、商業出版を前提に書き下ろしたものです。現在、出版してくださる出版社様を募集しております。ご興味をお持ちの方は、info@tomonishintaku.com までお気軽にご連絡ください。

*内容を確認後、通常24時間以内に公開されます。

最近のコメント *誹謗中傷以外は掲載する方針