bytedaily - Dilansir dari techcrunch.com, Osaurus, sebuah server LLM (Large Language Model) sumber terbuka yang dirancang khusus untuk Mac, memungkinkan pengguna untuk beralih antara berbagai model AI lokal maupun berbasis cloud. Inisiatif ini berfokus pada penyediaan perangkat lunak yang berjalan di atas model-model AI yang semakin terkomoditas, sambil menjaga data dan alat pengguna tetap berada di perangkat keras mereka sendiri.
Osaurus berawal dari ide untuk menciptakan pendamping AI desktop bernama Dinoki, yang digambarkan oleh salah satu pendirinya, Terence Pae, sebagai semacam "Clippy yang didukung AI." Para pengguna Dinoki mempertanyakan perlunya membeli aplikasi jika mereka masih harus membayar untuk token, yaitu unit penggunaan yang dikenakan oleh perusahaan AI untuk memproses permintaan dan menghasilkan respons.
"Di situlah Osaurus dimulai," ujar Pae, mantan insinyur perangkat lunak di Tesla dan Netflix, kepada TechCrunch. Ia menjelaskan bahwa idenya adalah untuk mencoba menjalankan asisten AI secara lokal. "Anda bisa melakukan hampir semua hal di Mac Anda secara lokal, seperti menjelajahi file, mengakses peramban, dan konfigurasi sistem Anda. Saya pikir ini akan menjadi cara yang bagus untuk memposisikan Osaurus sebagai AI pribadi bagi individu.". Pae kemudian mulai membangun alat ini secara publik sebagai proyek sumber terbuka, sembari menambahkan fitur dan memperbaiki bug.
Saat ini, Osaurus dapat terhubung secara fleksibel dengan model AI yang di-host secara lokal atau penyedia cloud seperti OpenAI dan Anthropic. Pengguna dapat dengan bebas memilih model AI yang mereka gunakan dan menyimpan aspek lain dari pengalaman AI di perangkat keras mereka sendiri, seperti memori model, file, atau alat.
Mengingat setiap model AI memiliki kekuatan yang berbeda, keunggulan sistem ini adalah pengguna dapat beralih ke model AI yang paling sesuai dengan kebutuhan mereka. Struktur ini menjadikan Osaurus sebagai "harness" – lapisan kontrol yang menghubungkan berbagai model AI, alat, dan alur kerja melalui satu antarmuka. Hal ini serupa dengan alat seperti OpenClaw atau Hermes, namun Osaurus ditujukan untuk konsumen umum dengan antarmuka yang mudah digunakan, berbeda dengan alat yang sering kali ditujukan untuk pengembang dan terkadang memiliki masalah keamanan.
Osaurus mengatasi kekhawatiran keamanan dengan menjalankan proses dalam sandbox virtual yang terisolasi pada perangkat keras, yang membatasi AI pada cakupan tertentu dan menjaga keamanan komputer serta data pengguna. Namun, menjalankan model AI secara lokal masih dalam tahap awal dan membutuhkan sumber daya yang besar. Untuk menjalankan model lokal, sistem memerlukan setidaknya 64GB RAM, dan untuk model yang lebih besar seperti DeepSeek v4, disarankan sistem dengan sekitar 128GB RAM.
Pae menyatakan, "Saya bisa melihat potensinya, karena kecerdasan per watt – yang merupakan metrik untuk AI lokal – telah meningkat secara signifikan. Ini berada di kurva inovasinya sendiri. Tahun lalu, AI lokal hampir tidak bisa menyelesaikan kalimat, tetapi hari ini ia benar-benar dapat menjalankan alat, menulis kode, mengakses peramban Anda, dan memesan barang dari Amazon... Ini terus menjadi lebih baik dan lebih baik."
Saat ini, Osaurus dapat menjalankan model seperti MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4, dan lainnya. Ia juga mendukung model fondasi on-device Apple, keluarga model on-device LFM dari Liquid AI, dan di cloud, dapat terhubung ke OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama, dan LM Studio. Sebagai server MCP (Model Context Protocol) penuh, Osaurus dapat memberikan akses kepada klien yang kompatibel dengan MCP.
Sumber asli: Artikel ini disadur dari publikasi techcrunch.com.
