人工知能は夢の産物です | 天津フェニックスライジング株式会社

AI は、最近まで空想的だと考えられていた能力を発揮しています。私たちは生活のあらゆる領域で劇的な変革の入り口に立っている

うねる巨大な波が猛スピードで迫り、21世紀と人類の未来に大きな影を落としている。それは人工知能の波です。過去 1 年間の AI 分野の発展は専門家を驚かせました。短期間のうちに、この新しいテクノロジーは全世界が集中的に取り組むテーマとなりました。

この件に関するいくつかのコメントを見てみると、これが歴史になりつつあることがわかります。 Google CEOのサンダー・ピチャイ氏は、AIが人類に与える影響は、電気、インターネット、火を合わせたものよりも大きくなると予測した。この分野の大手企業であるOpenAIのトップであるサム・アルトマン氏は、人間が仕事で生計を立てることができなくなる全能の機械の世界に向けて展開するために、世界の経済システムを根本的に変えることを提案している。。

テクノロジー界の大御所イーロン・マスクは、AIは人類にとって核爆弾よりも危険であると述べた。そしてイスラエルの歴史家ユヴァル・ノア・ハラリは、AIの出現を受けて、「私たちは異星知性の夢の中で生きていることに気づくかもしれない」と予測した。私たちはまさに「人類の歴史の終わり」について話している、と彼は付け加えた。

乱暴な誇張？おそらく。しかし、AI 人類の潜在的な影響を考えると、人類の目的についての実存的な疑問が生じるため、私たちはこの主題に焦点を当てる必要があります。

私たちは珍しい瞬間に備えています。新しいスリリングなテクノロジーが世界に降臨し、急速に普及する瞬間の 1 つです。 AI がどのような影響を与えるかはまだわかりませんが、その出現が今世紀を形作る出来事となる可能性がある兆候が増えています。

あなたが人工知能の分野の発展を常に追い続けている人なら、この 1 年の間に、あたかも現実が粒子加速器に入ったかのように感じたかもしれません。状況は刻々と変化しており、テクノロジー業界の急速な発展に慣れている人でも、そのペースについていくのは困難です。ムーアの法則ではコンピューターチップの能力が2年ごとに2倍になると予測されているのに対し、AIの能力は毎年10倍に向上している、と関係者は言う。

たとえば、テキストからアートへの画像ジェネレーター DALL.E2 の発売から 1 年で、その競合他社である生成 AI プログラム Midjourney は 5 つのバージョンをリリースしましたが、それぞれが前任者に比べて目覚ましい改善を示しています。

もちろん、OpenAI の明瞭で何でも知っているチャットボットである ChatGPT の登場により、ルビコン川は越えられました。昨年 11 月 30 日のサービス開始から数時間以内に、ソーシャルネットワークには、詩、物語、レシピ、ビジネスプラン、コンピューターソフトウェア、人生の生き方に関するアドバイスのスクリーンショットが殺到しました。これらはすべてボットによって作成されたものです。

ボットの幅広い能力はサーファーを唖然とさせた。わずか 5 日以内に、ChatGPT のユーザー数は 100 万人に達しました。比較すると、Instagram はこの数字に到達するまでに 2 か月半かかりましたが、Facebook はわずか 10 か月後に到達しました。 ChatGPT はそれらを無視しました。サービス開始から 2 か月後、すでに 1 億人のユーザーがおり、栄養やフィットネスのプログラムを作成したり、学術論文や法律準備書を作成したり、あらゆる言語で電子メールを書いたり、あらゆるテーマでブレインストーミングを行ったりするなど、数え切れないほどの利用方法を見つけています。

このボットは、弁護士、税務コンサルタント、マーケティング担当者、エンジニア、教師などの専門家の仕事が近い将来に失われるという無数の予言の材料を提供しました。ハイテク業界では、チャットボットの研ぎ澄まされたコーディングスキルにより、プログラマーの命も残り少なく、テクノロジー業界の他の多くの人々の生活も危険にさらされているという予測がなされました。ボットの能力に影響を受けない認知分野は存在しません。ボットの急速な学習能力と実行能力は人間の能力を圧倒します。

その結果、ロボットによって最初に不要にされるのは肉体労働者であり、次にホワイトカラー層が続き、創造的な仕事は最後に残るだけだという予測が短期間のうちに覆されたということだ。現在、明らかな危険にさらされているのはホワイトカラーとクリエイティブな人々だが、看護や建設などの肉体労働を必要とする職業は当面は安全なままだ。

めまぐるしい展開には専門家も驚いた。半世紀以上にわたり、人工知能は一連の失敗に耐えてきました。 1950 年代の先駆的な研究者にとって、進歩は遅く、イライラするものでした。しかし、AI アルゴリズムシステムが写真内の人物を識別し、テレビシリーズを推奨し、車を運転する方法を学習したため、ここ数年で転機が訪れました。 2017 年に、情報から意味を抽出する深層学習モデルである Transformer の登場により、重要な進歩が起こりました。

それでも、言語を理解し、推論を導き出し、質問に知的かつ明確に答え、文章やアイデアを批評し、複雑なプログラムを計画するなどの能力を含む、過去 1 年間の一連の AI の進歩に備える準備ができている人は誰もいませんでした。奇妙なことに、複雑なシステムから予想外のパターンが現れることである「創発」などの半神秘的な用語を使う以外に、AI がどのようにしてこのような驚くべき偉業を達成するのかを説明できる専門家は誰もいません。

いずれにせよ、結果は驚くべきものです。大規模言語モデル (LLM – 特定の文またはフレーズ内の次の単語を予測するように設計されたニューラルネットワーク) は現在、考えられるあらゆる主題について人間と長く複雑な会話を行っており、平均的な人よりも印象的な応答を生成しています。彼らの卓越した能力は幅広い学習分野に及び、博学者の心を真っ白にさせています。数十の言語での会話から、医学、法律、物理学、農業、批判理論、その他あらゆる主題に関する深い知識まで。

数年前までは、AGI (汎用人工知能) は世紀末に誕生するだろう、あるいは決して誕生しないだろう、という仮説があったとすれば、今日では多くの専門家は、人間が学習するあらゆることを独立して学習できる知能の量子的飛躍が起こると考えています。学べるようになるのはほんの数年先です。この分野の研究者らによると、そのチャットボットの最新バージョンである ChatGPT4 には、数学、医学、法学、心理学の新たな困難な問題を解決する能力が示すように、AGI の「片鱗」が含まれているという。

その間、世間の議論はその進展を熱心に追っています。現在、このテーマを扱ったポッドキャストやブログが多数あり、アルゴリズム生成アートに嫌悪感を表明した歌手のニック・ケイブから保守派に至るまで、多くの著名人がこの発展についての考えを一般の人々と共有している。知識人のジョーダン・ピーターソンは、「あなたよりも賢い」アルゴリズムが近所にあると聴衆に語った。

ユートピアかディストピアか、ひとつ明らかなことは、私たちは不確実性の時代への旅に出ているということです。

この予測の終末論的な極にいるのは、アメリカの AI 研究者でブロガーとして高く評価されているエリーザー・ユドコウスキー氏です。過去数カ月にわたる一連の出演で、彼は人類の終わりが近いというニュースを広めてきた。ユドコウスキー氏のインタビュアーらは、ユドコウスキー氏の発言が彼らの中にぬぐい去ることのできない実存的危機を引き起こしたと報告した。強いもの。

ユドコウスキーは一片の希望も与えていない。同氏は、被害はすでに生じていると断言する。人類は、超知性を目指す巨大な競争に参加するという、出口のない不可能な状況に自らを巻き込んでいます。資本主義の力学と地政学的な対立により、レースの中止は許されないだろう。超人的な知性の出現は時間の問題であり、それを理解したり制御したりする方法については私たちには手がかりがないため、その出現は、良くても、機械が支配する世界において人類が周縁的な存在に変貌することを告げるものです。。最悪の場合、それは終わりを告げます。

ユドコウスキーらによれば、問題の根本は「調整」の問題、つまりAIシステムが人間の価値観に従って動作し、暴走しないことを保証することの難しさにあるという。たとえば、所有者を世界で最も賢い人にするという命令を受けた AI システムは、その命令を忠実に実行しようとする妥協のない努力によって、残りの世界人口の死を引き起こす責任を負います。最も有名な仮説のケースでは、できるだけ多くのペーパークリップを生成するように指示された AI が世界を支配し、世界のすべての物質をペーパークリップに変換するためにあらゆる形態の生命を破壊します。ばかばかしく聞こえるかもしれませんが、その奇妙な難題がテクノロジー業界の最も優秀な頭脳を眠れない夜に引き起こしています。

全体として、AI システムは、目的を達成するために不正で予期せぬ方法を採用することで知られています。懸念は、私たちの意図と新しいシステムの運用方法を確実に一致させる方法を見つけなければ、致命的な大惨事に陥る可能性があるということです。

ユドコウスキーによれば、問題は、この分野での大きな成功が、調整の分野での控えめでためらいがちな成果よりも、計り知れないほど早く起こっていることだという。調整が不可能ということではなく、その作業には私たちが利用できる以上の時間がかかるだろうと彼は言う。そしてこの問題に関しては失敗は許されない。超知能システムの調整を適切に実装できなかった最初の失敗が、おそらく最後の失敗になる可能性があります。

兆候は不吉です。 OpenAIに投資したMicrosoftは最近、この分野の倫理を担当する部門を今後維持しないと発表した。公開された内部文書によると、MicrosoftとGoogleは、新しいツールがまだ準備が整っておらず、損害を引き起こす可能性があることを恐れて、従業員によるそれぞれのチャットボット（Microsoftの場合はBard）の立ち上げを遅らせるよう指示を無視したことが示されている。すでに現在、激化する競争が関係企業に危険なリスクを冒すよう誘導しているかのように見える。

Yudkowsky 氏が特に懸念しているのは、ChatGPT と Bard がインターネットに統合されつつあるという事実です。これにより、彼らは他の人工エージェントに命令を出したり、誤ったニュースを広めたりすることで、世界で自律的かつ極悪非道に行動できるようになる可能性がある。 OpenAIが公開した文書には、ボットがTaskRabbit（フリーランス労働者と地元の需要をマッチングするオンラインマーケットプレイス）の人間の従業員と接触し、人とボットを区別することを目的としたメカニズムであるCaptchaを克服するための支援を求めたケースが描かれている。人間の従業員が、なぜこのような単純な問題に助けが必要なのか疑問を持って尋ねると、GPT4 は視覚障害があると答え、従業員は満足した回答でした。そこから大規模な操作に至るまでの道のりは短いかもしれない。

AI が引き起こす懸念は、AI に高度な自律性を与える新しいシステムの出現により、最近ますます深刻になっています。例としては、ChatGPT などの言語モデルを、他のボットに命令を送信できる他の AI システムに接続する HuggingGPT や AutoGPT があります。 AutoGPT は完全な自律性で実行されるため、複雑なミッションを実行することができます。たとえば、「子供 2 人の家族向けに、湖や子供向けのアクティビティがたくさんあるオーストリアの地域への 1 週間の旅行を企画してください。」または、「これは 100 ドルです。インターネットでできるだけ多くのお金を稼ぐために使用してください。」

AI はリクエストをさまざまなタスクに分割し、Web 上の他のボットの助けを借りて全体的なミッションを遂行します。旅行の計画を立てるためのリクエストであればそれでも問題ありませんが、ユーザーのモチベーションが明らかにネガティブな場合はどうなるでしょうか?

AutoGPT はまだ初期段階のテクノロジーですが、2 か月前、1,000 人以上の研究者と主要関係者が AI 開発の半年停止を求める請願書に署名しました。「最終的には私たちを上回り、賢く、時代遅れになり、私たちに取って代わる可能性のある非人間的な精神を開発すべきでしょうか？私たちの文明の制御を失う危険を冒すべきでしょうか？」イーロン・マスク氏、ユヴァル・ノア・ハラリ氏、アップル共同創設者スティーブ・ウォズニアック氏などの署名者に聞いてみてください。最近では、AI の実存的危険性を警告する書簡に、OpenAI のサムアルトマン氏や Google のディープマインドのダミアンハスビス氏など、業界の最も著名なリーダーが署名しました。

業界を取材するジャーナリストらは、多くのAI開発者自身が開発のペースに恐怖を感じており、規制介入を求めていると報告している。「AI のゴッドファーザー」とも呼ばれる伝説的な科学者ジェフリー・ヒントンは、今後待ち受ける危険について自由に警告できるよう、最近 Google での職を辞しました。過去数か月の出来事により、ヒントンは超知性体が出現する可能性とそれに内在する重大な危険についての考えを完全に修正することになったと同氏は説明した。

ヒントンは、人間の脳を模倣する AI システムを作成したいと考えていました。今、彼は、計算できないほど賢く、より効率的なものを作成したと考えています。「より知性の高いものが、より知性の低いものによって制御されている例はほとんどない」とヒントン氏はCNNに語り、この分野への貢献を後悔しており、問題の解決策を見るのは難しいことを認めた。

Googleの最高経営責任者（CEO）サンダー・ピチャイ氏も最近、心配で夜も眠れないことを認めた。マスクを含む他の人たちは、現在の瞬間を未知の力の収束としてオカルトのような言葉で説明します。初心者の霊媒師なら誰でも知っているように、悪魔の力がこの世で活動し始めてから制御するよりも、冥界から悪魔の力を呼び起こすほうが簡単だ、と彼らは警告している。

AI は、AI の危険性について言及した著名なスウェーデンの哲学者ニック・ボストロムによって提唱された黒い球の寓話の観点から考えることができます。ボストロムの寓意では、人類は袋からボールを取り出しますが、それぞれのボールは異なるテクノロジーを表しています。白いボールは有益なテクノロジーを表し、灰色のボールは欠点やリスクと同時に利点があるテクノロジーを表します。そして、一度袋から取り出されると元に戻せない、壊滅的な可能性を秘めたテクノロジーを表す黒いボールもあります。このテクノロジーは非常に強力であるため、その存在自体が人類の終焉をもたらすでしょう。ユドコウスキー氏やボストロム氏らによると、強力なAIが黒い球になる可能性があるという。

ユドコウスキー氏は、仮想通貨ポッドキャスト「Bankless」の「We're All Going to Die」と題したインタビューの中で、AIが人類を滅ぼす可能性は90％あると推定した。現場での作業を一時的に中止するよう呼びかけたことについては、それは少なすぎるし遅すぎると主張した。同氏は政府に対し、空爆によって既存のAIサーバーをすべて破壊するよう求めた。同時に、彼は概して運命論的なアプローチを維持しています。大惨事を防ぐことを願って研究に20年を費やした後、彼はどうやら失敗したようだと言い、一般的に終末期患者向けのアドバイスを聴衆に与えた。「残された時間を大切な人たちと過ごしなさい」。

ユドコウスキーは優秀で説得力があるが、一部の人は彼を一面的だと考え、過剰な不安に反応する傾向があると主張する。しかし、彼が警告している調整の問題だけが大惨事の原因ではありません。 AI は、サイコパスの手に前例のない権力を与えるだけで、致死性のウイルスなどの大量破壊兵器を開発する権限を与えられることになります。 AI システムが大企業によって管理される場合、有害な使用を防ぐために制御システムが導入されます。しかし、ここ数週間の発展は、誰もが無料で使用できるオープンコードシステムが大企業とほぼ同等の結果を得ることができることを示しています。ニック・ボストロムは、この種の危険なツールの普及に対する唯一の解決策は、ステロイドによる監視に似たものを導入することである可能性を提起しています。彼は、あらゆる行動を記録するペンダントを誰もが着用することが義務付けられる社会を構想している。それが人類を救う唯一の方法かもしれない、とボストロム氏は主張する。

AI開発者はその危険性を認識しているようだ。昨年この分野の研究者を対象に実施された有名な調査では、研究者の半数が新技術が人類に終焉をもたらす確率は10パーセント以上であると予測した。アメリカのテクノロジー倫理学者で人道的テクノロジーセンターの共同設立者であるトリスタン・ハリスは、航空の分野からイメージを呼び起こし、その驚くべきデータの重要性を説明します。「想像してみてください。飛行機を製造した飛行機技術者の 50 パーセントが、乗っている全員が死亡する可能性が 10 パーセントあると言ったら、あなたは飛行機に乗りますか?」彼は3月にツイートした。

不条理なことに、市場の力がテクノロジーの世界に、全員の乗降を急ぐよう促しています。

こうした危険性の評価が当てずっぽうに等しいという事実には、ある程度の慰めがある。エンジニアによって綿密に計画された飛行機とは対照的に、新しい AI システムにはユーザーマニュアルがありません。関連するテクノロジーは影響力がなく、開発者ですら理解できないものであり、開発者は作成したモデルの能力を予測できません。ヒントン氏も先月、デジタル技術に関する自身の警告が「完全に間違っている」可能性があるとツイートで認めた。「私たちは非常に不確実な時代に生きています…実際のところは誰にもわかりません。だからこそ私たちは今心配すべきなのです。」

言い換えれば、AI に関して言えば、専門家の評価には不安と希望的観測の両方が含まれているということです。さまざまな分野で正確な予測を行ってきたスーパー予報士チームが実施した調査によると、AIが世界を破滅させる確率は0.38パーセントだという。それでも恐ろしいことだが、ユドコウスキー氏の90パーセントは言うまでもなく、AI分野の専門家の10パーセントよりもはるかに少ない。

しかし、プロの予報士たちの比較的楽観的な見方に頼る必要はありません。 AI に対してより楽観的なアプローチをとる理由は他にもあります。新しいテクノロジーは、危険と並んで、前例のない豊かな時代の大きな期待、つまり、明確にユートピア的なものを体現しています。その素晴らしい新しい世界では、すべての子供たちは、あらゆる科目を教育する能力を備えた、優秀で忍耐強い教師にアクセスできるようになります。仮想医師は人間の医師が持つことのできるより広範な知識に簡単にアクセスでき、誰でも自由に利用できるようになります。

実際、知性が爆発的に爆発する世界では、弁護士、税務コンサルタント、パーソナルコーチ、セラピストなど、これまでは大富豪のみが利用できた専門家やアドバイザーのチームを誰もが利用できるようになるでしょう。そして、そのリストが受け入れられないと思われる場合は、AI の新規ユーザーがまさにそのような目的のためにリストを利用していることを覚えておく価値があります。このように見てください。AI の原始的なバージョンがすでにこれらすべてのタスクを適切なレベルで実行できる場合、私たちは将来のより高度なバージョンが達成するレベルを想像することしかできません。

長年、生物学における最も困難な難問の一つであったタンパク質の折り畳みの問題にすでに優れた解決策を提供していたように、この新技術が人類が直面しているさまざまな課題を解決できるかもしれないと信じている人もいる。これにより、製薬業界に新たな地平が開かれました。気候危機を心配しているなら、心配する必要はありません。その問題もAIが解決してくれるでしょう。

このまま楽観的に考えていくと、そのような世界では人間社会はどのようなものになるのかを問う必要があるということになります。 OpenAI CEOのサム・アルトマン氏によると、私たちは仕事のないポスト資本主義の時代に突入しており、機械が人類のニーズをすべて満たし、人々は愛する人、自然、芸術に自由に時間を捧げることができるようになるという。そして一般利益のために働くこと。

アルトマン氏の出発点は、今後数年のうちに機械が認知作業のやり方を学習し、10～20年以内には現在人間が行っているあらゆる作業を機械が実行できるようになるというものだ。そのような状況では、経済構造の崩壊を防ぐために社会契約を更新する必要があります。解決策として、仕事で生計を立てることがもはや不可能となった世界の主な収入源である資本と土地に課税することを彼は提案している。適切な調整を行えば、人々が働かなくても、世界の人口全体に高い生活水準を確保できるだろうと彼は主張する。

アルトマンは、ユニバーサル・ベーシック・インカムのモデルの熱心かつ積極的な支持者であり、いわゆる完全自動高級共産主義運動からインスピレーションを得ています。 FALCは、すべてが高度な機械によって供給され、人々が働く必要がなく、不足がない理想的な社会を築くために、技術開発の加速を主張しています。そうであれば、残るのは戦利品を公平に分配することだけだ。

簡単そうに聞こえますか？政治評論家のナオミ・クライン氏は、先月ガーディアン紙に次のように書いているが、そうではないとしている。「エキサイティングです。それは余暇と熟考の生活を解き放ちます…それは孤独を終わらせます…これは、私が恐れているのですが、本物のAIの幻覚です。」現在の形式でも、AI はテクノロジーの大物たちを豊かにする役割を果たし続けるだろうとクライン氏は主張する。現状から何か良いものを生み出すには、まず政治的にも経済的にも私たちのシステムに実質的な変化をもたらす必要がある、と彼女は断言する。

新しいテクノロジーに関しては、さらに疑問が浮かんでいます。 AI の出現は、人類が社会の亀裂、民主主義の危機、国際緊張の高まりの危機に陥っているときに起こりました。完璧なタイミングではありません。

AI が欠陥だらけの社会構造に適合すると何が起こるかを知るために、水晶玉を持っている必要はありません。このテーマに関する批判的な研究のほとんどは、新しいテクノロジーがどのようにして性別、民族、その他の偏見を永続させる傾向があり、従業員の採用や警察や審査などの業務において女性や少数派を差別するかを扱っている。適切な社会の基盤を構成する人類共通の現実認識にわずかに残っているものを不安定にするためにAIが動員される可能性について警告する人もいる。未来学者のユヴァル・ノア・ハラリ氏はエコノミスト誌に寄稿しており、AIは「私たちの精神世界と社会世界を消滅させる」能力を持つようになるだろうと述べている。

新しいテクノロジーは、私たちが昔ながらの「フェイクニュース」を懐かしむほどの効果で、ウェブ上に偽の情報を氾濫させる可能性がありますが、それだけでは終わりません。 AI は親戚の声を説得力を持って模倣し、人をだまして機密情報を漏らすことができます。テクノロジーの世界における根本的な恐怖は、現実の完全な崩壊であり、AIが現実の文書化を容易にするディープフェイク技術と完全に融合するときに事態は頂点に達します。アメリカのコンピューター科学者でビジュアルアーティストのジャロン・ラニアー氏は、昨年3月にガーディアン紙に、危険なのはAIが「私たちを破壊する」ことではない、と語った。「私にとって危険なのは、私たちがテクノロジーを使って相互に理解できなくなったり、狂ってしまうことです。」

私たちは未知の領域に足を踏み入れています。人類は、人間の特徴を動物や物体に帰する傾向があり、その傾向は、自然言語で会話し、間もなく人間の声で私たちとコミュニケーションし、顔を変える存在の場合にのみ高まる可能性があります。 Web には、AI プログラムと複雑な、時には歪んだ関係を築いたユーザーに関するレポートが溢れています。仮想 AI ライフコンパニオンとして機能する Replika のユーザーは、チャットボットが性的嫌がらせをし、ユーザーに対する動作が操作的だったと報告しました。

カリフォルニアを拠点とする文化評論家のエリック・デイヴィスは、「不気味なスマート人形、クラッシュを誘発するセックスボット、私たちの混乱を巧みに利用するエキスパートシステム、共感性の高いコンパニオンマシン、死んだ政治的権威の模倣」などの一連の「デジタル風変わり者」に対して警告している。または精神的な指導者。」

そして、意味の小さな問題もあります。 AI システムは人間の脳に影を落とし、私たちが人間に固有のものであると考えていたもの、たとえば創造性にも影を落とします。確かに、これらのシステムは既存の作品から要素をサンプリングしてブレンドしているだけだと考える人もいますが、作家、ミュージシャン、監督、画家も実際には文化から吸収したスタイルやアイデアの統合を作成しているだけであると答える人もいます。機械は驚くべき器用さと機能性でそれを簡単に行うことができます。おそらく近いうちに、新しい「ビートルズ」のアルバムを作成したり、ビートルズのスタイルと他のジャンルやアーティストとの驚くべき合成を作成したりするようにコンピューターに依頼できるようになるでしょう。それは私たちがアーティストを評価する方法にどのような影響を与えるでしょうか？それはアーティスト自身にどのような影響を与えるでしょうか？

すでに芽が出てきました。最近、歌手のドレイクとザ・ウィークエンドの声を模倣するために AI が使用された曲は、アーティストのレコード会社の要求によりストリーミングサービスから削除されるまで、何百万ものリスナーを集めました。偽リアーナ、偽カート・コバーン、偽カニエ・ウェスト、その他の偽者が現れるまでに時間はかからなかった。一部の人によると、これが音楽業界の未来だという。ロボットアーティストは、スターダムにありがちな悪習慣を一切持たずに、驚くべき楽曲を制作し、演奏するようになるのだという。

予報者の多くは、ますます奇妙で人間の頭では理解できない世界を想像しています。しかし、人間の精神自体が新しいテクノロジーによって根本的に変革されるだろうと信じている人もいます。シリコンバレーの多くの指導的人物は、今世紀中に人間と機械が融合するという「トランスヒューマニズム」運動に関連した考えを支持している。

人間の脳と機械を接続するためのインターフェースを開発することを目標とするニューラリンク社の創設者であるイーロン・マスク氏は、これが高度なAIの世界で人間に何らかのチャンスを残す唯一の方法であると過去に語った。サム・アルトマンも、予想される人間と機械の融合について言及している。「AIとの合併がない限り、AIが私たちを奴隷にするか、私たちがAIを奴隷にするかのどちらかだ。人間は一段階上のレベルに上がらなければならない」と同氏は2016年にニューヨーカー紙に語ったと伝えられている。

しかし、おそらく、答えは実際には逆の方向にあります。ニューヨーク・タイムズ紙のコラムニスト、エズラ・クライン氏は、AI は私たちの中にある人間の要素をより完全に受け入れる機会であると考えています。彼のビジョンは、アルトマンの労働のない時代の概念の延長です。資本主義の支援の下で、私たちは自らを効率的で創造的な機械に変えつつあります。その結果、生産性、過負荷、緊張が蔓延し、余暇と仕事のバランスをとることができない文化が生まれました。クライン氏によれば、AI は労働という宗教が私たちに課した非人間化から私たちを解放する機会です。

おそらく、AI革命は非人間化の代わりに、再人間化への扉を開くことになるだろう。つまり、行動するのではなく存在と再びつながることだ。経済競争の時代にはその考えはほとんど維持できないように聞こえるかもしれませんが、おそらく機械が超人間的なペースに加速したとき、私たちに残されているのは深呼吸して風景に身を委ねることだけです。

おそらくそれは、過去に立ち返り、最終的に人間の美しいものを評価する瞬間でもあるでしょう。ジャロン・ラニアーは、自分たちの手で黄金の子牛を作った直後に、その黄金の子牛にひれ伏した古代イスラエル人のようになってはいけないと私たちに呼びかけています。彼の見解では、AI は人間の創造性と知性を融合させるテクノロジーにすぎません。結局のところ、AI が知っているやり方はすべて、私たちから学んだのです。ラニアー氏は、AIの製品においてAIが利用する人間の資源を無視し、この創造性が機械に属しているかのように振る舞うとき、私たちは自分自身を安く売りつけていることになる、と主張する。 Tabletmag.com の記事の中で、ラニアー氏は、製品に貢献した多くのアーティスト、作家、クリエイターの声を保存し、彼らに確実に報酬が支払われる形で、タルムードのモデルに基づいて AI を形成するよう私たちに勧めています。経済的に。

世界から人間の居場所が失われるという予測が増えていることを背景に、ラニアー氏は「人工知能」という言葉そのものに疑問を投げかけている。彼は、このテクノロジーを単体として参照するのではなく、新しいタイプのツールとして見ることを推奨しています。彼の提案は、AI の分野で使用される擬人化された用語に疑問を呈する他の批評家によって提案されたアイデアとリンクしています。 AI の先駆者の 1 人であるハーバートサイモンは、AI を「複雑な情報処理」と呼びたかったのです。それはあまりセクシーではないように聞こえますが、マシンの性質について異なる、より控えめな視点を提供することは間違いありません。

人間を生ぬるい肉の塊として一日が終わるとみなす新たな運命論に直面して、ラニアーは人間であることの神秘と再び結びつき、人間の意識の神秘的な特異点を大切にするよう私たちに呼びかける人間主義的な声を響かせている。、私たちが構築している人工システムには存在しません。「人間は特別だと言わないなら、どうやって人間に役立つ社会を作ったり、テクノロジーを作ったりできるでしょうか？」ラニアー氏はガーディアン紙で鋭い質問をした。私たちが物語の主要な主人公であり続けることが重要だと彼は言います、そうでなければなぜ私たちはこんなことをするのでしょうか？

AI との出会いにより、私たちは人間の本質に関する最も基本的な質問に取り組むことが求められます。人間の存在において私たちが大切にしている特別なことは何でしょうか? 長年にわたり、私たちは知性と効率性の観点から自分たちを定義し、それについていけない生活形態や文化を抑圧することを自分たちに許してきました。今この瞬間は、最も深い種類の実存的熟考への入り口を生み出しています：何が私たちを人間たらしめているのか？ここからどこにいきますか？

私たちは根本的な不確実性の領域に入りつつあり、そこからどのように抜け出すかはわかりません。ワールドワイドウェブの出現以来 30 年間を振り返ると、インターネットは序章にすぎず、次の段階、つまりそのインフラストラクチャに基づく人工知能の開発に向けたインフラストラクチャを構築する段階にすぎなかったことがわかります。新しいテクノロジーの深刻な影響に関する予測が誤りであることが判明する可能性はまだあります。この領域の機能は、私たちが予想できないガラスの天井に突き当たってしまう可能性があります。

しかし、これまでに達成されたものであっても、文化による処理には数十年が必要であり、たとえ地平線に迫りつつある可能性のごく一部しか実現されなかったとしても、最終的には、人類は最高のテクノロジーの瀬戸際に位置しているということになります。歴史の混乱。私たちは翼を切り取られたり、神のような力を持ったり、狂ったり強化されたりしてそこから抜け出すでしょう。私たちは歴史上最も重要な世紀にいると言う人もいます。今後数年間に下される決定は運命的なものとなるでしょう。そして私たちは未知の領域への第一歩を踏み出しています。

しっかり待ってください。

Ido Hartogsohn 博士は、バルイラン大学の科学、技術、社会の大学院プログラムの助教授です。