Microsoftは先日、ウエイトリストに参加することなくBingチャットが利用できるようになった事を発表しました。誰でも気軽に使えるようになった反面、ユーザー数が増えた影響のためか、一部のユーザーは、Bingチャットのレスポンスが最近遅くなったと主張している模様。
なぜ、Bingチャットのレスポンスが遅くなったのか、原因をMicrosoftが説明した事がわかりました(Neowin)。
Sorry about the latency: the usage keeps growing, we are not adding GPUs fast enough. We’ll get it fixed.
— Mikhail Parakhin (@MParakhin) May 8, 2023
Bingチャットの応答時間を早くしてほしいというユーザーからの要望に対し、Microsoftの広告・Webサービス担当責任者であるMikhail Parakhin氏は、「使用量が増え続けており、GPUを十分に速く追加できていない」と釈明しています。ただしこの状況は修正される見込みだと付け加えています。
BingチャットのようなAIシステムではデーターセンターに専用のGPUを大量に追加していく事が必要となります。現在GPUの主要メーカーはNVIDIAであり、NVIDIAからのGPUの入手速度がサービスの成長速度に追いついていないことがBingチャットの遅さの原因なのかもしれません。
未確認の報道ながら、MicrosoftはAMDと提携して新しいAIチップを開発中だともいわれており、NVIDIAへの依存が将来的に取り除かれる可能性はあります。
