柏駅東口のシンボル(旧そごう柏)が消えて, 生まれ変わります!
「正面の白い建物、もうすぐ取り壊しになる予定」
「柏駅西口」
「町内会のコスモス畑にて」
AI AI AI AI AI AI AI AI AI AI AI AI
BUSINESS
The Control Key
INSIDE ELON MUSK’S FIGHT—AND FEARS—FOR THE FUTURE OF ARTIFICIAL INTELLIGENCE
BY WALTER ISAACSON
Musk mulls AI with Shivon Zilis and their twins in this photo
マスク 氏はシボン・ジリスと双子と一緒にAIについて考えている。
At a conference in 2012, Elon Musk met Demis Hassabis, the videogame designer and artificial-intelligence researcher who had co-founded a company named DeepMind that sought to design computers that could learn how to think like humans.
ビジネス
コントロールの鍵
人工知能の未来に対するイーロン・マスクの闘いと不安の内幕
ウォルター・アイザックソン
2012年、イーロン・マスクはあるカンファレンスで、ディープマインドという会社を共同設立し、人間のような考え方を学ぶことができるコンピュータを設計しようとしていた、ゲームデザイナーで人工知能研究者のデミス・ハサビスに出会った。
“Elon and I hit it off right away, and I went to visit him at his rocket factory,” Hassabis says. While sitting in the canteen overlooking the assembly lines, Musk explained that his reason for building rockets that could go to Mars was that it might be a way to preserve human consciousness in the event of a world war, asteroid strike, or civilization collapse. Hassabis told him to add another potential threat to the list: artificial intelligence. Machines could become super intelligent and surpass us mere mortals, perhaps, even decide to dispose of us.
「イーロンと私はすぐに意気投合し、彼のロケット工場を訪ねました」とハサビスは言う。 組み立てラインを見下ろす食堂で、マスクは火星に行けるロケットを作る理由を、世界大戦や小惑星衝突、文明崩壊の際に人類の意識を維持する方法かもしれないと説明した。 ハサビスは彼に、もうひとつの潜在的脅威、人工知能をリストに加えるように言った。 機械が超知的になり、私たち人間を凌駕する可能性がある。
Musk paused silently for almost a minute as he processed this possibility. He decided that Hassabis might be right about the danger of AI, and promptly invested $5 million in DeepMind as a way to monitor what it was doing.
マスクはこの可能性を処理するために、ほぼ1分間黙って立ち止まった。 彼は、ハサビスがAIの危険性について正しいかもしれないと判断し、早速ディープマインドに500万ドルを投資して、その行動を監視することにした。
A few weeks after this conversation with Hassabis, Musk described DeepMind to Google’s Larry Page. They had known each other for more than a decade, and Musk often stayed at Page’s Palo Alto, Calif., house. The potential dangers of artificial intelligence became a topic that Musk would raise, almost obsessively, during their late-night conversations. Page was dismissive.
このハサビスとの会話の数週間後、マスクはグーグルのラリー・ペイジにディープマインドについて説明した。 2人は10年以上の付き合いで、マスクはペイジのカリフォルニア州パロアルトの家によく泊まっていた。 人工知能の潜在的な危険性は、マスクが深夜の会話の中で、ほとんど執拗に提起する話題となった。 ペイジは否定的だった。
At Musk’s 2013 birthday party in Napa Valley, California, they got into a passionate debate. Unless we built in safeguards, Musk argued, artificial-intelligence systems might replace humans, making our species irrelevant or even extinct.
Page pushed back. Why would it matter, he asked, if machines someday surpassed humans in intelligence, even consciousness? It would simply be the next stage of evolution.
2013年にカリフォルニア州ナパバレーで開催されたマスクの誕生日パーティーで、彼らは熱い議論を交わした。 安全策を講じない限り、人工知能システムが人間に取って代わり、我々の種は無意味になるか、あるいは絶滅するかもしれないとマスクは主張した。
ペイジは反論した。 いつか機械が人間を知能で上回り、意識さえも上回ったとして、それがなぜ問題なのか? それは単に進化の次の段階に過ぎない。
Human consciousness, Musk retorted, was a precious flicker of light in the universe, and we should not let it be extinguished. Page considered that sentimental nonsense. If consciousness could be replicated in a machine, why would that not be just as valuable? He accused Musk of being a “specist,” someone who was biased in favor of their own species. “Well, yes, I am pro-human,” Musk responded. “I f-cking like humanity, dude.”
Musk was therefore dismayed when he heard at the end of 2013 that Page he heard at the end of 2013 that Page and Google were planning to buy Deep-Mind Musk and his friend Luke Nosek tried to put together financing to stop the deal. At a party in Los Angeles, they went to an upstairs closet for an hour-long Skype call with Hassabis. “The future of AI should not be controlled by Larry,” Musk told him.
人間の意識は宇宙における貴重な光の明滅であり、それを消してはならないとムスクは言い返した。 ペイジはそれを感傷的なナンセンスだと考えた。 もし意識が機械で再現できるのなら、なぜそれが同じように価値がないのだろうか? 彼はマスクが "スペシスト"、つまり自分の種に偏った人間だと非難した。 「マスクはこう答えた。 「私は人類が好きなんだ。
そのためマスクは、2013年末にペイジとグーグルがディープマインドの買収を計画していると聞いたとき、落胆した。 ロサンゼルスのパーティーで、彼らは2階のクローゼットに行き、ハサビスと1時間のスカイプ通話をした。 「AIの未来はラリーにコントロールされるべきではない」とマスクは彼に言った。
The effort failed, and Google’s acquisition of DeepMind was announced in January 2014. Page initially agreed to create a “safety council,” with Musk as a member. The first and only meeting was held at SpaceX. Page, Hassabis,, and Google chair Eric Schmidt attended, along with Reid Hoffman and a few others. Musk concluded that the council was basically bullsh-t.
So Musk began hosting his own series of dinner discussion on ways to counter Google and promote AI safety. He even reached out to President Obama, who agreed to a one-on-one meeting in May 2015. Musk explained the risk and suggested that it be regulated. “Obama got it,” Musk says. “But I realized that it was not going to rise to the level of something that he would do anything about.”
Musk then turned to Sam Altman, a tightly bundled software entrepreneur, sports-car enthusiast, and survivalist who, behind his polished veneer, had a Musk-like intensity. At a small dinner in Palo Alto, they decided to cofound a nonprofit artificial-intelligence-research lab, which they named OpenAI. It would make its software open-source and try to counter Google’s growing dominance of the field. “We wanted to have something like a Linus version of AI that was not controlled by any one person or corporation,” Musk says.
この取り組みは失敗に終わり、2014年1月にグーグルによるディープマインドの買収が発表された。 ペイジは当初、マスクがメンバーとなる「安全協議会」の設立に同意した。最初の、そして唯一の会議はスペースXで開かれた。ペイジ、ハサビス、そしてグーグル会長のエリック・シュミットが出席し、リード・ホフマンとその他数名が加わった。 マスクは、この会議は基本的にでたらめだと結論づけた。
そこでマスクは、グーグルに対抗し、AIの安全性を促進する方法について、独自のディナーディスカッションシリーズを開催し始めた。 彼はオバマ大統領にも接触し、2015年5月に1対1の会談に応じた。 マスクはリスクを説明し、規制するよう提案した。 「オバマはそれを理解した」とマスクは言う。 「でも、オバマ大統領が何かしてくれるようなレベルには達しないだろうと思いました」。
マスクはその後、サム・アルトマンに目をつけた。彼はソフトウェア起業家であり、スポーツカー愛好家であり、サバイバリストでもある。 パロアルトでのささやかな夕食会で、彼らは非営利の人工知能研究ラボを共同設立することを決め、OpenAIと名付けた。 ソフトウェアをオープンソースにし、この分野で支配力を強めるグーグルに対抗しようとしたのだ。 「私たちは、特定の個人や企業に支配されない、リーナス版AIのようなものを作りたかったのです」とマスクは言う。
One question they discussed at dinner was what would be safer: a small number of AI systems that were controlled by big corporations or a large number of independent systems? They concluded that a large number of competing systems, providing checks and balances on one another, was better. For Musk, this was the reason to make OpenAI truly open, so that lots of people could build systems based on its source code.
Another way to assure AI safety, Musk felt, was to tie the bots closely to humans. They should be an extension of the will of individuals, rather than systems that could go rogue and develop their own goals and intentions. That would become one of the rationales for Neuralink, the company he would found to create chips that could connect human brains directly to computers.
Musk’s determination to develop artificial-intelligence capabilities at his own companies caused a break with OpenAI in 2018. He tried to convince Alt-man that OpenAI should be folded into Tesla. The OpenAI team rejected that idea, and Altman stepped in as president of the lab, starting a for-profit arm that was able to raise equity funding, including a major investment from Microsoft.
So Musk decided to forge ahead with building rival AI teams to work on an array of related projects. These included Neuralink, which aims to plant microchips in human brains; Optimus, a humanlike robot; and Dojo, a supercomputer that can use millions of videos to train an artificial neutral network to simulate human brain. It also spurred him to become obsessed with pushing to make Tesla cars self-driving.
At first these endeavors were rather independent, but eventually Musk would tie them all together, along with a new company he founded called xAI, to pursue the goal of artificial general intelligence.
大企業がコントロールする少数のAIシステムと、独立した多数のシステム、どちらが安全だろうか? 彼らは、競合する多数のシステムが互いにチェック・アンド・バランスを提供する方が良いという結論に達した。 マスクにとって、これがOpenAIを真にオープンにし、多くの人々がそのソースコードに基づいてシステムを構築できるようにする理由だった。
AIの安全性を保証するもうひとつの方法は、ボットを人間と密接に結びつけることだとマスクは考えた。 暴走して独自の目標や意図を持つシステムではなく、個人の意志の延長であるべきなのだ。 これが、人間の脳をコンピューターに直接接続するチップを開発するために彼が設立した会社、ニューリンクの根拠のひとつとなった。
自分の会社で人工知能の能力を開発するというマスクの決意は、2018年にOpenAIとの決裂を引き起こした。 彼はアルトマンに、OpenAIをテスラに統合すべきだと説得しようとした。 OpenAIのチームはその考えを拒否し、アルトマンがラボの社長に就任して営利部門を立ち上げ、マイクロソフトからの大型投資を含む株式資金を調達することができた。
そこでマスクは、さまざまな関連プロジェクトに取り組むライバルのAIチームを立ち上げることにした。 人間の脳にマイクロチップを埋め込むことを目指す「ニューラルリンク」、人間そっくりのロボット「オプティマス」、人間の脳をシミュレートする人工中性ネットワークを訓練するために何百万ものビデオを使用できるスーパーコンピューター「ドージョー」などである。 また、テスラ車を自動運転させることに執念を燃やすことにもなった。
当初、これらの試みはどちらかといえば独立したものだったが、やがてマスクは人工知能の目標を追求するため、xAIという新会社を設立し、これらすべてを結びつけることになる。