Νωρίτερα φέτος, το MainFrame κυκλοφόρησε την εφαρμογή FullMoon, ένα ελεύθερο και ανοιχτό εργαλείο που επιτρέπει στους χρήστες να εκτελούν μεγάλα μοντέλα γλωσσών, όπως το Llama και το Deepseek, εξ ολοκλήρου στη συσκευή τους. Ξεκίνησε στις 13 Ιανουαρίου 2025, εύστοχα χρονομετρημένα με πανσέληνο, ένα παιχνιδιάρικο νεύμα στο όνομα Fullmoon (Fullmoon).
Αντί να βασίζεται στις συνδέσεις του Διαδικτύου, το Fullmoon εκτελεί μοντέλα AI τοπικά σε πυρίτιο της Apple, το οποίο βελτιώνει την ταχύτητα και διατηρεί τα δεδομένα συνομιλίας ιδιωτικά. Η εφαρμογή λειτουργεί πλήρως εκτός σύνδεσης σε iPhone, iPad, Mac και Vision Pro, και απαιτεί iOS 17.6, iPados 17.6, MacOS 14.0 ή VisionOS 2.0 ή νεότερη έκδοση.
Ενώ πολλά εργαλεία συνομιλίας AI βασίζονται στη συνεχή συνδεσιμότητα στο διαδίκτυο, το Fullmoon υιοθετεί μια διαφορετική προσέγγιση. Με την εκτέλεση μοντέλων τοπικά σε πυρίτιο της Apple, προσφέρει ταχύτερους χρόνους απόκρισης και εξασφαλίζει ότι τα δεδομένα των χρηστών παραμένουν στη συσκευή. Για τους χρήστες που συνειδητοποιούν την προστασία της ιδιωτικής ζωής, αυτό σημαίνει ότι οι συνομιλίες παραμένουν εντελώς προσωπικές, χωρίς εμπλεκόμενους διακομιστές τρίτων. Η δυνατότητα εκτός σύνδεσης καθιστά επίσης χρήσιμο σε περιβάλλοντα χαμηλής σύνδεσης ή σε όσους προτιμούν να διατηρούν τις ροές εργασίας τους αυτοδύναμες.
Η εφαρμογή υποστηρίζει διάφορα μοντέλα, όπως το LLAMA-3.2-1B-Intruct-4bit, το LLAMA-3.2-3B-Intruct-4bit και το Deepseek-R1-Distill-Qwen-1.5b και στις δύο εκδόσεις 4-bit και 8-bit. Αυτά τα μοντέλα βελτιστοποιούνται για μάρκες σειράς M της Apple, εξισορρόπηση της απόδοσης με αποτελεσματικότητα. Οι χρήστες μπορούν να προσαρμόσουν περαιτέρω την εμπειρία τους μέσω προσαρμόσιμων θεμάτων, γραμματοσειρών και προτροπών συστήματος και η ενσωμάτωση των συντομεύσεων της Apple τους επιτρέπει να ενσωματώσουν τη λειτουργικότητα του ΑΙ σε αυτοματοποιημένες εργασίες.
Το Fullmoon ξεκίνησε ως beta testflight, όπου πάνω από 3.500 συμμετέχοντες βοήθησαν στη διαμόρφωση της τελικής απελευθέρωσης. Η ανατροφοδότηση της κοινότητας αποτελεί αναπόσπαστο μέρος της ανάπτυξής του και η φύση του έργου ανοικτού κώδικα που φιλοξενείται στο GitHub-ensures ότι ο καθένας μπορεί να επιθεωρήσει, να τροποποιήσει ή να συμβάλει στον κώδικα. Αυτή η διαφάνεια βοήθησε να αποκτήσει έλξη τόσο μεταξύ των προγραμματιστών όσο και των καθημερινών χρηστών που αναζητούν αξιόπιστα εργαλεία AI.
Συνιστώμενη ανάγνωση:Η Google ανακοινώνει το Gemini 1.0, ένα νέο LLM για να ανταγωνιστεί το chatgpt-4
Από την κυκλοφορία του, η Fullmoon έχει κερδίσει θετικές κριτικές για την ταχύτητα, την αξιοπιστία και τη φιλική προς το χρήστη διεπαφή. Η δυνατότητα χρήσης προηγμένων μοντέλων χωρίς πρόσβαση στο διαδίκτυο εκτιμήθηκε ιδιαίτερα από τους ταξιδιώτες, τους επαγγελματίες του πεδίου και εκείνους που αναζητούν ιδιωτικό πειραματισμό AI. Ακόμη και με πιο ικανά μοντέλα, η απόδοση παραμένει ομαλή, επισημαίνοντας την αποτελεσματικότητα της λειτουργίας LLMS απευθείας στο υλικό της Apple.
Αντί να είναι απλώς μια άλλη εφαρμογή chatbot, το Fullmoon αντιπροσωπεύει μια στροφή προς το προσωπικό AI: ισχυρό, ιδιωτικό και τοπικά ελεγχόμενο. Αποδεικνύει ότι η εκτέλεση προχωρημένων γλωσσικών μοντέλων σε συσκευές καταναλωτών δεν είναι μόνο δυνατή αλλά πρακτική, ανοίγοντας το δρόμο για πιο προσιτές και επικεντρωμένες στην ιδιωτική ζωή των εμπειριών AI.