Microsoftは先日、開発者イベント「Microsoft Ignite 2023」において、これまで「Bingチャット」として知られていたオンラインAIチャットボットの名称を廃止し、今後は「Copilot」に変更すると発表しました。
今回、このAIチャットシステムが、最近OpenAIから発表された「GPT-4 Turbo」モデルにアップグレードされる予定であることがわかりました(Neowin)。アップグレードにより、128Kのコンテキストウィンドウをサポートし、ユーザーはそのウィンドウに300ページ分のテキストプロンプトを入力できるようになります。
Bingチャット/Copilotは現在、各チャットで5,000文字という厳しい文字数制限が設けられています。GPT-4 Turboへの移行によって文字数制限を増やすことができるかという質問に対して、Microsoftの広告およびWebサービスの責任者のParakhin氏は「Turboはより大きなコンテキストウィンドウを持っているので、制限を増やす予定だ」と説明しています。
Yes, Turbo has a larger context window, so will try to increase the limit
— Mikhail Parakhin (@MParakhin) November 27, 2023
Parakhin氏はまた、GPT-4 Turboが通常のGPT-4モデルよりどのように優れているのかと質問され「
GPT-4 Turboは、バニラGPT-4よりも"知覚的インテリジェンス"の点で優れている。高いスループットを持っているので、より多くのユーザーから使用可能で、「ホット」でないDCを稼動させることができ、レイテンシーを改善することができる」と回答しています。
It beats vanilla GPT-4 on "perceived intelligence" - our internal metric of how smart the system feels when you talk to it, but we still need to iron out a few kinks in Math and Coding. It has higher throughput, so you can have more users or run DCs less "hot", improving latency.
— Mikhail Parakhin (@MParakhin) November 24, 2023
ただし、Bingチャット/Copiloで、GPT-4 Turbはまだ展開されておらず、サードパーティープラグインのサポートが完全に展開されるのを待っている状態のようです。
