Nvidia تطلق Chat With RTX، وهو Chatbot AI الذي يتم تشغيله محليًا على جهاز كمبيوتر يعمل بنظام Windows

أصدرت Nvidia روبوت دردشة يعمل بالذكاء الاصطناعي (AI) يسمى Chat with RTX والذي يعمل محليًا على جهاز كمبيوتر ولا يحتاج إلى الاتصال بالإنترنت. لقد كانت الشركة المصنعة لوحدة معالجة الرسومات في طليعة صناعة الذكاء الاصطناعي منذ ازدهار الذكاء الاصطناعي التوليدي، حيث تعمل شرائح الذكاء الاصطناعي المتقدمة على تشغيل منتجات وخدمات الذكاء الاصطناعي. تمتلك Nvidia أيضًا منصة للذكاء الاصطناعي توفر حلولاً شاملة للمؤسسات. وتقوم الشركة الآن ببناء برامج الدردشة الآلية الخاصة بها، ويعد برنامج Chat with RTX هو العرض الأول لها. يعد Nvidia chatbot حاليًا تطبيقًا تجريبيًا متاحًا مجانًا.

أطلقت Nvidia عليها اسم chatbot مخصص يعمل بالذكاء الاصطناعي، وأصدرت الأداة يوم الثلاثاء (13 فبراير). سيحتاج المستخدمون الذين يعتزمون تنزيل البرنامج إلى جهاز كمبيوتر يعمل بنظام Windows أو محطة عمل تعمل على وحدة معالجة الرسومات RTX 30 أو 40-series مع ذاكرة فيديو بسعة 8 جيجابايت على الأقل. بمجرد تنزيل التطبيق، يمكن تثبيته ببضع نقرات واستخدامه على الفور.

نظرًا لأنه برنامج دردشة محلي، فإن Chat with RTX ليس لديه أي معرفة بالعالم الخارجي. ومع ذلك، يمكن للمستخدمين تغذيته ببياناتهم الشخصية، مثل المستندات والملفات والمزيد، وتخصيصها لتشغيل الاستعلامات عليها. يمكن أن تتمثل إحدى حالات الاستخدام هذه في تزويده بكميات كبيرة من المستندات المتعلقة بالعمل ثم مطالبته بتلخيص أو تحليل أو الإجابة على سؤال محدد قد يستغرق العثور عليه يدويًا ساعات. وبالمثل، يمكن أن تكون أداة بحث فعالة لتصفح العديد من الدراسات والأوراق البحثية. وهو يدعم تنسيقات الملفات النصية وpdf وdoc/docx وxml. بالإضافة إلى ذلك، يقبل روبوت الذكاء الاصطناعي أيضًا عناوين URL لمقاطع الفيديو وقوائم التشغيل على YouTube، ويستخدم نسخ مقاطع الفيديو، ويمكنه الإجابة على الاستفسارات أو تلخيص الفيديو. لهذه الوظيفة، وسوف يتطلب الوصول إلى الإنترنت.

وفقًا للفيديو التجريبي، فإن Chat with RTX هو في الأساس خادم ويب إلى جانب مثيل Python الذي لا يحتوي على معلومات نموذج لغة كبير (LLM) عند تنزيله حديثًا. يمكن للمستخدمين الاختيار بين طرازي Mistral أو Llama 2 لتدريبه، ثم استخدام بياناتهم الخاصة لتشغيل الاستعلامات. تذكر الشركة أن برنامج الدردشة الآلي يستفيد من المشاريع مفتوحة المصدر مثل توليد الاسترجاع المعزز (RAG)، و TensorRT-LLM، وتسريع RTX لوظائفه.

وفقًا لتقرير صادر عن The Verge، يبلغ حجم التطبيق حوالي 40 جيجابايت ويمكن أن يشغل مثيل Python ما يصل إلى 3 جيجابايت من ذاكرة الوصول العشوائي. إحدى المشكلات المحددة التي أشار إليها المنشور هي أن برنامج الدردشة الآلي يقوم بإنشاء ملفات JSON داخل المجلدات التي تطلب منه فهرستها. لذلك، قد يكون من الصعب تغذيته بمجلد المستندات بأكمله أو مجلد أصل كبير.