2024.03.16 NVIDIA、AIチャットボットを公開
米国NVIDIA社は2024年2月13日、パーソナライズされたAIチャットボット体験をWindows PCユーザーに向けて提供する新たなツール「Chat with RTX」を公開した。
この革新的なツールは、ユーザー自身のPC上にあるデータを活用し、リアルタイムで会話が可能なAIチャットbotを実現している。対応しているのは、GeForce RTX 30/40シリーズやNVIDIA RTX Ampere/Ada世代のアーキテクチャを備え、VRAM 8GB以上のグラフィックスカードを搭載したPCだ。
ローカルのファイルをデータセットとして使用し、MistralやLlama 2などのオープンソースの大規模言語モデルと連携することで、ユーザーの疑問に対して瞬時にコンテキストに応じた回答を提供できる。
「Chat with RTX」の特徴
「Chat with RTX」は、クラウドを介さずローカル環境で動作するため、高速なレスポンスと強固なセキュリティが最大のメリットである。様々なファイル形式のテキストデータや、YouTubeの動画URLなどもデータセットとして取り込める。
しかし、このツールは現時点で英語のみ対応し、約36GBのダウンロード容量が必要で、高いシステム要件を満たすPCが必要だ。これらの条件により、日本の一般ユーザーが実際に利用するまでにはいくつかの障壁が存在している。
それでも、セキュリティに懸念を抱いている企業や国にとっては、安全に生成AIチャットボット技術をビジネスに活用できる新たな機会を提供するものだと期待されている。
【関連リンク】
・NVIDIA、RTX搭載のWindows PC上で動作するAIチャットボット「Chat with RTX」を公開(gihyo.jp)
https://gihyo.jp/article/2024/02/chat-with-rtx
TEXT：PreBell編集部
PHOTO：iStock
