生成型 AI の登場は、テクノロジー業界にとって大きな転換点となりました。 ChatGPT の登場により、私たちに新しい作業方法が与えられ、機械的な作業をより簡単に実行できるようになり、さらにはさらに先へ進む意欲が湧いてきました。 2023 年 6 月の初めに、ついにiPhone に ChatGPT をインストールするためのネイティブ アプリができました。
これらの新しいテクノロジーの背後にある科学はスーパーコンピューティングに基づいています。システムに入力された以前の情報に基づいて、私たちのリクエストとそのアルゴリズムを処理する膨大なコンピューティング能力を備えたサーバーは、自然言語で私たちに答えることができます。
クラウド上の言語モデル
しかし、これらの新しいシステムの限界の 1 つは、まさに私たちに応答するために必要な膨大なコンピューティング能力です。そして、応答を準備するだけでなく、私たちの発言を解釈することもできます。私たちの文は、マシンが解釈できる最小単位（ 「トークン」と呼ばれます）に「チャンク化」され、このデータはそれを処理するサーバーに送信されます。
私たちはこれらすべてに対して非常に初期の段階にいます。私たちはこれらの新しい言語モデルの可能性をまだ 2 年間模索してきただけで、日常生活に役立つ素晴らしいものですが、小さな欠点があります。質問に対するトークンを送受信するためにインターネット接続が必要です。そしてラップから答えを受け取ります。
これは、この応答を構成するために処理される数十億のパラメーターに対する計算能力が非常に必要になるためです。しかし、個人的には、このテクノロジーの未来はクラウドにあるのではなく、私たちのすぐ近くにあると信じています。
ポケットの中に「ChatGPT」
今日は、数日前に App Store に登場したアプリを使用して、小さな実験を行っていきます。 Offine Chatという名前はまったく魅力的ではありません。また、後で説明するように、インターフェイスも魅力的ではありません。しかし、それは役に立つ可能性があり、来るべき未来について多くのことを教えてくれます。
このアプリケーションは、70 億を超えるパラメーターを持つ最高の言語モデルの 1 つであるMistral 7B 0.2 を使用してトレーニングされたモデルを使用します。より大きなモデルからの「蒸留」技術を使用することは非常に強力で、ほぼ 2 倍のパラメータを持つ Llama 2 のようなより大きな言語モデルをも上回ります。デバイス上での実行には完璧です。非常に圧縮されており、トレーニングされたモデルは非常に正確です。
最新の iPhone の新しいプロセッサと機械学習プロセス アクセラレータのおかげで、インターネット接続を必要とせずに、この量の情報をローカルで処理することが可能になります。また、利用可能な RAM の量も、トークンを解釈するための「クイック ステップ」として使用する AI アルゴリズムの評価に不可欠なものです。そのため、このアプリケーションには少なくとも 6GB の RAM を搭載した最新のデバイス ( iPhone 12 Pro 以降) が必要です。
これにより、70 億のパラメータを持つ言語モデルを搭載した小さな会話ボットが得られます。すべては iPhone 自体で処理され、インターネットは必要なく、もちろんオフラインでも利用できます。これは、ChatGPT で知られているものほど強力ではありませんが、日常的に活用できる特定の用途があります。
AIを日常生活でどう活用するか
今後数か月以内に、このタイプのアプリケーションが多数登場するでしょう。今日説明するアプリケーションはその最初のアプリケーションの 1 つです。最高のグラフィカル インターフェイスを備えているわけではありませんが、非常にシンプルであり、いかなる種類の設定も必要ありません。ダウンロードするだけで (単一価格€1.99 )、使用を開始できます。
小さな画面には、注文を待つコマンドプロンプトだけが表示されます。ここでは、何でも質問できますが、この特定のアプリの最初の制限の 1 つが見つかりました。それは、英語でのみ動作するということです。もちろん、彼はスペイン語を完璧に理解するので、私たちは私たちの言語で彼に物事を尋ねることができます。
私がローカル AI が役立つだろうと言うとき、私はインターネットがない状況でのことを指しています。たとえば、通信範囲のない場所にいる場合や、応答時間が重要な緊急事態の場合などです。基本から始めて、次のようなレシピを尋ねることができます。
緊急事態といえば、たとえば、タイヤの交換方法を尋ねることができます。説明も丁寧で、すべてiPhone上で処理している割には応答速度も速いです（機内モードにして確認しました）。電話機の背面が通常より少し熱くなり、プロセッサーがフル稼働していることがわかります。
これらのローカル AI の実際の用途は、通信範囲が狭い緊急事態です。たとえば、遠く離れた場所でパンクが発生した場合、車のタイヤを交換する方法がわかりません。アプリに問い合わせると、詳しいやり方を教えてくれました。画像が組み込まれていればさらに良かったのですが、何度も言いますが、この小さなアプリは、今後さらに多くのアプリが登場する始まりにすぎません。
一方で、これらの AI をローカルで使用できることは、インテリジェント アシスタントとの会話を改善することです。日々の通信のために情報をサーバーに送信する必要はなくなります。現在、Siri は多くの応答をローカルで処理していますが、改善する必要があります。また、私の意見では、コンテキストという非常に重要なものも得られるでしょう。
コンテキストとは、人間と話すときと同じように自然に会話ができることを意味します。各文で前提を繰り返すのではなく、何を指しているのかを「理解する」のです。たとえば、ビートルズの曲を尋ねる場合、次の質問はビートルズについて言及するのではなく、単純に「ビートルズのベスト アルバムは何ですか?」とすべきです。 – 上のスクリーンショットの例でわかるように。
ローカル AI とそのアプリケーションは未来です
新しいMacBook Pro M3 Max を分析する際に、ローカル言語モデルを使用してこれらのタスクにおけるプロセッサの能力を測定しました。彼が私に与えてくれた値 (前に述べた1 秒あたりのトークンで表現) は、ラップトップについて話していることを考えると、非常に優れています。しかし、iPhone 15 Pro では、ほぼリアルタイムの応答速度も得られます。
Apple は、自社デバイスの Apple Silicon のコンピューティング能力で非常に有利な立場にあり、機械学習のハードウェア アクセラレーションに非常に大きな賭けをしています。現在、私たちは写真の補正、音声の解釈、物体やテキストの検出など、「内部」で日常的なタスクを実行するためにデバイスでこの機能を使用しています…
ただし、このコンピューティング能力はさらに多くのことを実行できます。この記事で取り上げたようなアプリは非常に基本的な例です。ダウンロードすることに決めた場合、ある時点で役立つかもしれません。しかし、このアプリは、おそらくiOS 18で何が起こるかについて多くのことを教えてくれます。