نسخه 4 مدل هوش مصنوعی گرانیت توسط IBM منتشر شد

معرفی مدل هوش مصنوعی گرانیت نسخه چهار

گرانیت(Granite) از خانواده مدل های زبانی بزرگ هوش مصنوعی (LLM) است که توسط IBM Research توسعه داده می شود که به تازگی نسخه جدید آن منتشر شده.

این مدل زبانی در ورژن های micro و tiny و small منتشر شده که این مدل بهینه تر شده و توانایی اجرا روی سخت افزار با منابع کم را دارد همین طور سرعت اجرای بسیار خوبی دارد.

مدل هوش مصنوعی گرانیت از چه زبان هایی پشتیبانی می‌کند؟

طبق اطلاعات رسمی منتشر شده توسط IBM این مدل از زبان های انگلیسی , آلمانی, اسپانیایی, فرانسوی, ژاپنی, پرتقالی, عربی, چک, ایتالیایی,کره ای, هلندی, و چینی پشتیبانی می کند. متاسفانه این مدل به خوبی از زبان فارسی پشتیبانی نمیکنه و تست ها و برسی هایی که ما از این مدل داشتیم هم این را تایید می‌کند. درواقع ممکن است زبان فارسی را کمی متوجه بشه اما در هر صورت پاسخ دهی مناسبی نداره.

کاربرد های مدل Granite

مدل گرانیت برای انجام دقیق وظایف مربوط به کسب و کار های سازمانی آموزش دیده و می تواند و در موارد زیر می تواند کاربردی باشد:

1. خلاصه سازی متن

2. طبقه‌بندی متن

3. استخراج متن

4. پاسخ گویی به سوالات

5. وظایف مربوط به کد نویسی

6. وظایف فراخوانی تابع

کدام نسخه از آن عملکرد بهتری دارد؟

با توجه به تست هایی که رو نسخه های tiny و micro انجام دادیم نسخه micro-h این مدل در عین حال که کم حجم ترین نسخه است بهترین عملکرد را در انجام وظایف داشت که حجمی در حدود کم تر از 3 گیگ دارد و اگر یک سیستم یا لپتاپ با گرافیکی با ۴ گیگ vram داشته باشید مدل به راحتی روی سیستم شما قابل اجرا است. البته با سخت افزار ضعیت تر هم می توان این مدل را اجرا کرد بسته به سخت افزار ممکنه با سرعت کمتری روی سیستم شما اجرا شود و اما نکته خاص در رابطه با این مدل این است که تا 1M کانتکس(توکن) را می تواند پردازش کند که این عدد بسیار بالایی است. یعنی میتوانید متن های بسیار طولانی برای پردازش به آن بدهید. اما به طور کلی فقط برای انجام تعداد محدودی از وظایف عملکرد مناسبی دارد و احتمالا در انجام وظایف پیچیده تر به مشکل میخورد.

هرچند می‌تواند به سوالات ساده درباره کد نویسی پاسخ دهد اما خیلی روی آن حساب نکنید.

جمع بندی و خلاصه مطلب:

نسخه‌ی ۴ مدل هوش مصنوعی گرانیت که در Ollama در دسترس است و می‌توانید آن را دانلود کنید علاوه بر این که حجم کانتکست بسیار زیادی دارد بسیار بهینه است و سرعت بالایی دارد که برای انجام برخی وظایف خاص میتوانید از آن استفاده کنید.