10/28Jimmy Apples氏とbioshokのDM

Jimmy Apples氏とBioshokの2023年10月28日8:53-17:40 のDM

Jimmy Apples:

https://twitter.com/geoffreyhinton/status/1717967329202491707?t=Oe-amPvOnDvM2nUmJfAssQ&s=19

（画像内翻訳:

新しい記事： https://managing-ai-risks.com/ 企業は、18 か月以内に、現在の最先端技術の 100 倍の計算量でモデルをトレーニングすることを計画しています。彼らがどれほど強力になるかは誰にもわかりません。そして、これらのモデルで何ができるかについての規制は基本的にありません。）

🤫 “ 100倍の計算“

Bioshok: DeepMindの共同創業者で、世界最高水準のAIスパコンを構築中のAI開発会社「Inflection AI」の設立者でもあるスレイマン氏によれば「今度18ヶ月程度でGPT-4の学習に使用された計算回数の10倍〜100倍がAIモデルの学習に使用され、次の3年程度でGPT-4の1000倍の計算回数が学習に使われるだろう」と言っている。これはスレイマン氏やDeepMindの社員やヒントン氏もOpen AI の内部的なAGI達成を知っているということだろうか？この事実は誰がどこまで知っているのだろうか。アメリカ大統領はしっている？

Jimmy Apples:

彼らはopenaiの元Googlerとコネクションがあるのでそうするだろうが、彼らは遅れているので、openaiの進捗状況を正確に100％知っているかどうかはわからない。大統領は知っているだろうが、どの程度かはわからない。

Bioshok:

「Conjecture」という会社の従業員と昨日話したところ、OpenAIはAIのアラインメント（合致・整合性）に非常に楽観的であると聞きました。ただ、彼によれば、OpenAIが楽観的である理由はビジネス戦略に基づくもので、実際には開発を遅らせるべきだったと彼は言っていました。アラインメントに対する楽観的な見解は、中間レベルの人間を置き換える可能性のあるAGI（一般人工知能）の開発が順調に進んでいることを意味しているのでしょうか？また、超知能や人間を超えるレベルのAIのアラインメントにもロードマップは存在しているのでしょうか？

Jimmy Apples: