2005 年、つまりソーシャル メディアやスマートフォン、ましてやブロックチェーン、メタデータ、OpenAI が登場する前のことですが、コンピューター サイエンティストで起業家の レイ カーツワイル 氏は、自らが「シンギュラリティ」と呼ぶものについて、息を呑むほど予言的な記述を発表しました。
カーツワイル氏が言いたかったのは、それほど遠くない将来に、超知能テクノロジーが突然、人間の想像し得るあらゆる能力を超え、人類をその活動に吸収し、その支配力を宇宙そのものにまで広げる瞬間が訪れるということでした。 シンギュラリティは近い、と彼のタイトルは不吉に宣言した。そして彼は自分の計算に十分な自信を持っており、正確な日付を2045年と提示した。
2005年と2045年のほぼちょうど中間の今年、カーツワイルは予言の最新情報を発表した。基本的には同じ予測でしたが、タイトルはやや不吉さが薄れていました。The Singularity is Nearer。
カーツワイルと、テクノ預言者が彼の導きに従ってきたことを考えれば、予言そのものの本質について少し考えてみる価値がある。なぜなら、古代や宗教的な形態においてさえ、予言の目的が未来を予測することだったことは一度もないからだ。予言は常に現在に影響を与えること、つまり、仮説でしかありえない明日に備えて、今日は違う生き方をするよう人々に説得することだったのだ。
この文脈で、新興技術に関する議論の多くがなぜこれほどまでに終末論的な調子になっているのかを問うのは興味深いだろう。そのような議論はいったい何を達成しそうなのか？人類滅亡が差し迫っていると予測することで、今行動を起こしたり、生活のあらゆる側面を変えたりする理由が誰かに与えられるのでしょうか。それとも、予測された必然性によって、人々は自分が何をしても何の影響も及ぼさないと確信する可能性が高いのでしょうか。
確かに、終末の宣言には暗く魅力的な何かがあります。人類の歴史を通じての遍在性がそれを物語っています。しかし、より生産的で、よりバランスのとれた（センセーショナルではないとしても）考え方や話し方があります。
「特異点」まで行かなくても、現代の経験の何が特異なのか、そしてそれが私たちが構築する機械によってどのように形作られているのかについて、真の説明を構築できるでしょうか。
レビュー：テクノ：人間とテクノロジー – マーカス・スミス (クイーンズランド大学出版)
マーカス・スミスの新著 Techno: Humans and Technology は、このテーマに対するより冷静なアプローチの 1 つです。
もちろん、このジャンルで活動する他のすべての人と同じように、スミスは、現在の瞬間が例外的でユニークであるとすぐに主張します。彼の本の冒頭の文章は、「私たちは技術革命の真っただ中に生きています」です。「革命」という概念への言及は、本全体にわたって自由に散りばめられています。
しかし、Techno の中心的な主張は、テクノロジーを規制しなければならないということです。さらに重要なことは、スミスは、私たちは規制できる と主張しています。チャールズ・スタート大学の法学准教授であるスミス氏は、機械をしっかりと人間の管理下に置くために法律は十分すぎるほどの資源を備えていると示唆している。
実際、スミス氏の説明によれば、オーストラリアは、アメリカやヨーロッパの社会を支配している大手テクノロジー企業の本拠地ではないため、テクノロジー規制で世界をリードする独自の立場にあるという。それが、オーストラリアが、スミスの言葉を借りれば、この分野で「実力以上の成果を上げている」理由を説明しています。
民主主義への脅威
スミスは、テクノロジーと政府、個人、社会との関係を検証する、緊密に構成された3つのセクションに本を分けています。
第1部では、人間が作り出した気候変動、公共生活のあらゆる側面へのAIの適用、デジタル監視とビッグデータによって可能になった社会信用システムなど、大規模な政治的問題に取り組んでいます。
おそらく、ここでスミスが最も興味深い議論をしているのは、悪名高い中国政府が採用している社会信用システムと商業勢力によって開発された社会信用システムの類似性に関するものです。
国民の行動を観察、評価、規制するために一連の技術的手段を使用する政府を批判する。しかし、銀行は常にデータを収集し、潜在的な顧客に対して判断を下し、その結果として深刻な差別が生じることはよくあることではないだろうか。また、eBay、Uber、Airbnb などのプラットフォームは、ビジネス モデルの一部として評判信用スコアを採用しているのではないでしょうか。
スミスにとって、問題は社会信用がシステムは存在すべきだ。存在することはほぼ必然だ。スミス氏は、このようなシステムをどのように規制し、自由民主主義の「中核的価値」と彼が考えるものを覆すことがないようにするかについて、じっくり考えるよう呼びかけている。これらの価値の中には、「言論、移動、集会の自由」や「法の支配、権力分立、報道の自由、自由市場」が含まれている。
テクノの第2部では、個人と、新興技術がプライバシー権に及ぼす脅威に焦点が当てられている。ここでの主な懸念は、インターネットを利用するたびに、つまりほとんどの人にとって多かれ少なかれ常に、私たち一人ひとりについて収集される膨大な量のデータである。
スミス氏が指摘するように、これは明らかに世界的な現象であるが、オーストラリアは、政府によるデータへのアクセスを法制化する点で世界の自由民主主義国をリードするという不名誉な栄誉を得ている。オーストラリアの民間テクノロジー企業は、クライアントの暗号化された活動にバックドアを挿入することが法的に義務付けられている。法執行機関はアカウントを接収し、それらの活動を阻止する権限を持っています。
「事実、自由民主主義政府は、彼らが批判する権威主義体制と同じように行動する」とスミス氏は書いている。
彼らは、令状に基づいて特定され正当な理由がある場合にのみそうすると主張するかもしれないが、ひとたび技術が利用可能になると、一部の政府機関は、その行動がコミュニティに対する彼らの仕事の利益によって正当化されると信じて、限界を押し広げる可能性が高い。
したがって、ビッグデータの出現は必然的に「自由民主主義をより権威主義的な姿勢へとシフトさせる」。しかし、スミスにとって、解決策はすぐに使える状態にある。
プライバシーや自律性などの権利を維持するには、これらの新しいプライバシー、セキュリティ、および政治的懸念を管理するための新しい規制が不可欠です。
実際的な困難
テクノの最後の部分は、テクノロジーと社会の関係に焦点を当てています。スミスは、主に経済、特に市場を意味しています。
彼は、暗号通貨で使用されるブロックチェーンテクノロジーの役立つ概要を提供しています。ブロックチェーンテクノロジーは、交換を分散化することで不平等を軽減し、成長を生み出すと期待されています。ここでも、スミスは勝利主義や破滅主義のアプローチを避けています。彼は、政府がどのようにそのような活動を仲介し、法の支配の範囲内にとどめることができるかについて、賢明な質問をしています。
彼は、中国と欧州連合の例を2つの可能なモデルとして挙げています。前者は国家の役割を強調し、後者はデジタル市場の立法条件を作成しようとしています。どちらも重大な限界があるが、おそらくこの 2 つを組み合わせた方が成功する可能性が高い。
しかし、スミスの中心的な関心事である規制が前面に出てくるのは、本の最後である。スミスは、自分の仕事の重要性について、何の困難もなく述べている。「技術規制は、おそらく今日人類が直面している最も重要な公共政策の問題である」と彼は書いている。
しかし、技術を規制する必要があると宣言することは、それをどのように行うかを説明するよりもはるかに簡単です。
『テクノ』は、後者について非常に大まかな概要を示しています。スミスは、規制には「主要な関係者 (技術者、企業、倫理学者を含む) の関与」、 「技術による規制」 (つまり、技術手段を使用して技術システムに法律を課すこと)、および「専用の国際機関」の設立が必要であると示唆しています。
しかしスミスは、これらの勧告を実際に実施することの複雑さについてはあまり考慮していない。さらに、彼のかなりの野心にもかかわらず、彼のアプローチは、問題の本当の規模を捉えるには至っていない。別のオーストラリアの学者、ケイト・クロフォードが最近主張したように、私たちはインテリジェントテクノロジーを、コンピューター、プラットフォーム、プログラムといった単なるオブジェクトやツールとして理解することはできない。なぜなら、それらは人間と世界との複雑な関係のネットワークから独立して存在するわけではないからだ。
これらのネットワークは、テクノロジーを動作させる鉱物を採掘するリチウム鉱山、世界中に部品を出荷するアマゾンの倉庫、機械知能の幻想を生み出すために人間に最低限の賃金が支払われるデジタルの出来高払い工場にまで及んでいる。これらすべてが環境に大混乱をもたらし、不平等を助長し、民主的統治の崩壊を促進している。
規制のプロジェクトがこの種の現象に関係するのであれば、スミスが提案するよりもはるかに広範かつ包括的なものでなければならないだろう。それは、スミスが言うところの「中核的価値観」のいくつかを、単に確保しようとするのではなく、再考することを意味するかもしれない。たとえば、私たちの民主主義はこれまで本当に民主的だったことがあるのか、私たちの社会はこれまで本当に平等を追求してきたことがあるのか、いわゆる「自由市場」に信頼を置き続けることができるのか、といった問いかけが必要になるかもしれない。
こうした種類の問いかけは、確かに終末を意味するものではないが、革命を意味する可能性がある。
Charles Barbour、准教授、哲学、西シドニー大学
この記事は、クリエイティブ コモンズ ライセンスに基づいて The Conversation から再公開されています。オリジナル記事。
