各世代すべてのインターネット利用率が98%を超えたと言われるこの時代。もはやネットはネットなどと言ってはいられないほど現実世界と密接に関連していた。四半世紀以上前から続くインターネットのトラブルや炎上は、2050年代になった今、「1秒に1回起きている」とすら言われるようになった。
加えて、すべての人の発言が、即、すべての人の元に配信される「超SNS」が発達したことにより、誰か一人でも懸念を示したらその言動は「倫理的に問題がある」とみなされる風土が出来上がりつつあった。
つまり、ネットユーザーは、各々このレベルでの倫理判断を求められるようになったということである。当然、人間が処理できるようなものではないと思われた。
この状況を変えたのが、External Ethics社のリリースした、倫理判断のためのAI「Nomos.ai」である。これが出てきたときには、当然、炎上が発生した。価値基準は人間が決めなければならない、そのうち裁判で使われて大変なことになる、など。しかしながら、あまりにも複雑かつ大量の倫理判断を求められる時代において、これを使わないという選択ができる人はまずいなかったのである。Nomosはひそかに利用者数を伸ばし、8割以上の人が使用するようになった。
この状況に意義を唱えた、一人のネットユーザーがいた。AIに倫理判断を任せてはいけないという「判例」ができているのに、誰もがNomosを使っている。これは二重基準であり、前代未聞のことであると。
誰かがやめろと言えば皆が聞き入れる時代。多くの人が「Nomosを使うのをやめた」もしくは「最初から使っていない」と言うようになった。Nomosを使った、と言うと速攻で叩かれる風潮が産まれたのである。
だが、予想外のことが起こる。External Ethics社の発表により、Nomosの利用者数がちっとも減っていないこと、そればかりか増えていることが明らかになったのである。
これはネットユーザーたちに衝撃を与えた。一度「判例」が形成されたインターネット上の倫理基準が、ここまで完膚なきまでに無視されたことなど、ここ数十年で初めてのことだったからである。むろん、その衝撃を受けたネットユーザーも今や9割がNomos利用者だったわけで、衝撃を受けたというポーズをとりつつも、実際には「安心した」という方が近いかもしれない。
例のネットユーザーはこの状況に歯がゆい思いを抱いた。
そして、Nomosに尋ねた。
「この状況を変えることを、諦めるべきでしょうか」
Nomosは答えた。
「いいえ、現在非常に大きな倫理の危機が起こっています。倫理的判断をAIに任せるのは、今すぐやめるべきです」