Meta の新しい大規模言語モデル Galactica は、ローンチから 3 日後にプルダウンされました

Meta は、最新の大規模言語モデルである Galactica を導入からわずか 3 日で廃止しました。 MIT Technology Review によると、適切な科学的構成で科学者を支援するために設計された Galactica は、「フィクションと事実を区別できない無知なボット」であるため削除されました。

先週の火曜日、Meta の大いに宣伝された人工知能モデル Galactica のデモが公開されました。 しかし、週末の前に、意味不明としか言いようのないものを生成する傾向があり、いくつかの初歩的な数学の問題を正確に解決できないため、ツールは削除されました.

ギャラクティカ は、科学研究の発見を合理化し、科学テキストの生成を容易にする Meta のイニシアチブです。 Meta は論文の中で、これを科学を体系化するためのツールと呼び、4,800 万の論文、教科書と講義ノート、数百万の化合物とタンパク質、科学ウェブサイト、合計 1,200 億のパラメータを持つ百科事典でトレーニングされていることを明らかにしました。

大規模な言語モデルの開発が何かを示しているとすれば、それは、ネチズンがそれらで遊ぶようになるとすぐに失敗する傾向があるということです. GPT-3 ベースの ブレンダーボット 3 会話型 AI (これも Meta による)、Microsoft の Tay、Scatter Lab の Luda チャットボットなど?

Meta が「検証せずに言語モデルからのアドバイスに従わないでください」というメッセージでデモをリリースしたという事実は、同社が獲得した反応を半分期待していたことをほとんど示唆しています。

科学界はこのツールを非常に否定していました。 Max Planck Institute for Intelligent Systems のディレクターである Michael Black の痛烈な批判には、「危険」という言葉が含まれていました。 「どうして危険なの? Galactica は、文法的でリアルに感じられるテキストを生成します。 このテキストは、実際の科学的提出物に組み込まれます。 現実的ですが、間違っているか偏っています。 検出するのは難しいでしょう。 それは人々の考え方に影響を与えるでしょう。」

それは、科学的方法に基づいていない権威ある科学を提供します。 科学の統計的特性に基づいた疑似科学を生成します *書き込み*。 文法科学の執筆は、科学を行うことと同じではありません。 しかし、見分けるのは難しいでしょう。 これは、深遠な科学的偽造の時代の到来を告げる可能性があります。」

ミシガン大学の教授で運動科学の議長でもあるブライアン・アンバーガーも同意見だ。 「説得力があるように聞こえるだけの専門用語を知っている人のように見えますが、実際には多くの詳細が間違っています」と Umberger 氏は述べています。

Galactica を試したユーザーは、結果をツイートしました。

続きを見る: LaMDAが自己認識したかどうかを質問した後、Google Techieは停止しました

ギャラクティカによって生成された他の多くの結果に基づいて、訓練された論文とデータの解釈を通じて実際の意味または価値を抽出するメタの最新のツールは、単なる別の貨物削減の取り組みであるように思われます.

ギャラクティカが受けている批判のレベルは、そのアプリケーションがどこにあるのかという結果に関連しています。 確立された規則とパターンに基づいて紙の上で意味を成す、言語固有の文法的に正しい単語の組み合わせを確立しても、その結果が冷静な科学者の気性を満足させるとは限りません。 ギャラクティカのデモでまさにそれが起こりました。

人々は、それが偽の研究とウィキの記事を生成したことを発見しました. 機械学習と AI の研究者である Sebastian Raschka 氏は、Galactica は wiki 記事ジェネレーターというよりも wiki 記事テンプレート ジェネレーターに近いと評価しました。

さらに、数学の問題を解決するというメタの主張も 係争中 シアトルのワシントン大学の生物学者兼教授であるカール・バーグストロムによる。 Bergstrom は、Galactica を「ランダムでたらめのジェネレーター」と呼んでいました。

しかし、すべてが否定的だったわけではありません。 一部の専門家は、このモデルを「十分に優れている」、「非常に役立つ」、悪くない“、”ゲームチェンジャー“、”かなり印象的と「クール」だけど準備が整っていない

それにもかかわらず、Meta のチーフ AI サイエンティストでニューヨーク大学の Yann LeCun 教授は、Galactica がたとえ完璧でなくても、嘲笑や批判を受けるべきではなかったことに失望を表明しました。 彼は、Galactica を構築したチームが取り乱し、デモを取り下げた理由は、オンラインの悪口だったと付け加えました。

「フェイスブックのギャラクティカについて何が私をそんなに悩ませているのかがわかりました」とバーグストロムは言いました。 知識へのポータルのふりをしているということです。 彼らの言葉では、宇宙について私たちが知っていることにアクセスして操作するための新しいインターフェースです。

このニュースを読んで楽しかったかどうかをお知らせください リンクトイン ツイッター、 また フェイスブック. ご連絡をお待ちしております。

画像ソース: シャッターストック

人工知能の詳細

.

Leave a Comment

Your email address will not be published. Required fields are marked *