Google ने सादर केला Gemma 3n: फक्त 2GB RAM वर चालणारा मल्टीमॉडल ऑफलाइन AI मॉडेल

कृत्रिम बुद्धिमत्ता (AI) सर्वसामान्यांपर्यंत पोहोचवण्यासाठी Google ने एक मोठे पाऊल उचलले आहे. त्यांनी Gemma 3n हे मल्टीमॉडल, ओपन-सोर्स AI मॉडेल सादर केले आहे, जे फक्त 2GB RAM मध्ये आणि इंटरनेटशिवाय देखील कार्य करू शकते. ही एक क्रांतिकारी सुरुवात आहे जी AI ला अगदी छोट्या डिव्हाइसपर्यंत पोहोचवेल.

Gemma 3n म्हणजे काय?

Gemma 3n हे Google च्या “Gemma” AI मॉडेल कुटुंबातील एक मॉडेल आहे. हे टेक्स्ट, प्रतिमा, ध्वनी व व्हिडिओ इनपुट्सवर प्रक्रिया करू शकते आणि टेक्स्ट आउटपुट देते. हे मॉडेल जलद, सुरक्षित आणि डिव्हाइसवर चालणारे असे तयार करण्यात आले आहे, जे गोपनीयतेचा विशेष सन्मान राखते.

कमी RAM, उच्च क्षमता

Gemma 3n चे दोन हलके प्रकार आहेत:

  • Gemma 3n-E2B – फक्त 2GB RAM आवश्यक
  • Gemma 3n-E4B – 3GB RAM आवश्यक

हे मॉडेल MatFormer (Matryoshka Transformer) आर्किटेक्चर वापरते, ज्यामध्ये “नेस्टेड सब-मॉडेल्स” वापरून मोठ्या मॉडेलसारखे काम करता येते. यामध्ये KV Cache Sharing आणि Per-Layer Embeddings (PLE) यांसारख्या तंत्रज्ञानांचा वापर केला आहे ज्यामुळे RAM चा वापर खूपच कमी होतो.

मल्टीमॉडल क्षमतांचा लाभ

Gemma 3n खालीलप्रमाणे विविध स्वरूपांमध्ये इनपुट घेऊ शकते:

  • टेक्स्ट: नैसर्गिक भाषेतील प्रक्रिया
  • प्रतिमा आणि व्हिडिओ: MobileNet-V5 एन्कोडर वापरून 60 FPS व्हिडिओपर्यंत विश्लेषण
  • ध्वनी: USM (Universal Speech Model) वापरून स्पीच-टू-टेक्स्ट व भाषांतर

हे मॉडेल 140 भाषांमध्ये टेक्स्ट आणि 35 भाषांमध्ये ऑडिओ व प्रतिमा प्रक्रिया करू शकते.

पूर्णपणे ऑफलाइन AI

Gemma 3n ची सर्वात महत्त्वाची बाब म्हणजे हे इंटरनेटशिवाय कार्य करते. यामुळे हे उपयोगी ठरते:

  • दुर्गम आणि ग्रामीण भागांमध्ये
  • गोपनीयता आवश्यक असलेल्या आरोग्य व शिक्षण क्षेत्रात
  • कमी RAM आणि बॅटरी असलेल्या मोबाइल, IoT आणि एम्बेडेड डिव्हाइसेस मध्ये

डेव्हलपर्ससाठी पूर्ण ओपन-सोर्स

Gemma 3n चे मॉडेल वेट्स Hugging Face, Kaggle इत्यादीवर ओपन-सोर्स स्वरूपात उपलब्ध आहेत. हे मॉडेल खालील साधनांद्वारे वापरता येते:

  • Google AI Studio
  • Transformers (Hugging Face)
  • llama.cpp
  • Ollama
  • MLX (Apple Silicon साठी)

Google ने MatFormer Lab हे इंटरअ‍ॅक्टिव टूल देखील सादर केले आहे, ज्यामुळे डेवलपर्सना मेमरी आणि परफॉर्मन्सचा समतोल ठरवता येतो.

नवीन कल्पनांसाठी $150,000 चा चॅलेंज

Google ने Gemma Impact Challenge ची घोषणा केली असून त्यासाठी $150,000 पर्यंतचे बक्षीस जिंकण्याची संधी आहे. या उपक्रमाचा उद्देश म्हणजे Gemma 3n वापरून समाजोपयोगी आणि ऑफलाइन AI सोल्युशन्स तयार करणे.

निष्कर्ष

Gemma 3n हे मॉडेल कमी RAM वर चालणारे, मल्टीमॉडल, गोपनीयता जपणारे आणि पूर्णपणे ऑफलाइन चालणारे AI मॉडेल आहे. शिक्षण, आरोग्य, भाषांतर आणि ग्रामीण तंत्रज्ञान क्षेत्रात हे एक क्रांतिकारी बदल घडवू शकते.

Leave a Comment