Orca World Foundation Model, AI Generasi Baru dengan Next State Prediction
Irfan Mulyana
July 8, 2026 2:44 pm
.
8 min read
Orca World Foundation Model, AI Generasi Baru dengan Next State Prediction
Tim peneliti dari Beijing Academy of Artificial Intelligence (BAAI) dan UC Berkeley baru saja merilis Orca World Foundation Model yang belajar dari 125 ribu jam video dan 160 juta anotasi event. Bedanya dari GPT atau Sora? Orca tidak cuma next-token prediction. Ia belajar state transition lintas modalitas: teks, gambar, sampai aksi robotik.
Orang mulai sadar bahwa next-token prediction aja nggak cukup buat mencapai general intelligence. Model seperti GPT bisa nulis esai, tapi nggak ngerti fisika dunia nyata. Model video kayak Sora bisa generate klip cantik, tapi nggak bisa nebak apa yang terjadi setelah frame terakhir. Orca mencoba jawab celah ini dengan pendekatan yang jauh lebih fundamental.
Paper Orca dirilis akhir Juni 2026 dan langsung jadi perbincangan di komunitas AI. Bukan karena benchmark-nya pecah rekor, tapi karena arsitekturnya beda paradigma. Mari kita bedah apa yang bikin Orca menarik, dan di mana batasnya.
Apa Itu Orca World Foundation Model?
Orca adalah model yang belajar merepresentasikan keadaan dunia (world state) dari sinyal multimodal. Visual, teks, dan aksi. Semua dipetakan ke satu ruang laten yang sama. Dari ruang laten ini, decoder bisa membaca output dalam bentuk teks, gambar, atau perintah gerak buat robot.
Bayangin seorang bayi yang nonton dunia di sekitarnya. Ia melihat bola menggelinding (visual), mendengar kata “lempar” (teks), lalu mencoba meraih bola itu (aksi). Semua pengalaman ini nyambung di kepalanya sebagai satu pemahaman utuh tentang “bagaimana dunia bekerja.” Orca mencoba melakukan hal yang sama secara komputasional.
Konsep Orca World Foundation Model sendiri sebenarnya udah lama dibahas di riset AI. Tapi Orca adalah salah satu implementasi pertama yang bener-bener latihan di skala besar dengan data multimodal. Bedanya dengan model lain ada di pendekatan belajarnya, bukan next-token, tapi next-state prediction.
Perbandingan Orca dengan Model Lain
| Model | Paradigma | Output | Pemahaman Dunia |
|---|---|---|---|
| Orca | Next-State Prediction | Teks, Gambar, Aksi | Ya (explicit world model) |
| GPT-4 / DeepSeek | Next-Token Prediction | Teks | Tidak (statistik token) |
| Sora / Video Models | Next-Frame Prediction | Video | Sebagian (visual only) |
| RT-2 / Robot Models | Next-Action Prediction | Aksi Robot | Sebagian (aksi only) |
Arsitektur Orca World Foundation Model: Next State Prediction
Ini jantung dari Orca. Di mana model lain sibuk nebak token berikutnya (GPT), frame berikutnya (Sora), atau aksi berikutnya (RT-2), Orca nebak state berikutnya. State di sini adalah representasi abstrak dari kondisi dunia pada suatu waktu.
Next-state prediction (NSP) bekerja dengan prinsip yang mirip dengan cara manusia berpikir. Coba ingat kapan terakhir main catur. Anda nggak mikir “langkah satu, pion ke e4; langkah dua, kuda ke f3” sebagai sederetan token. Bayangkan dalam bentang state: “posisi saya begini, lawan saya begini, kalau saya lakukan ini, posisinya jadi begini.”
Secara formal, Orca World Foundation Model memodelkan transisi state sebagai S(t+Δ) ~ p(S(t+Δ) | S(t), z(t), c(t)). S(t) adalah state saat ini, z(t) adalah dinamika implisit (pergerakan alami dunia), dan c(t) adalah kondisi eksplisit (instruksi atau konteks). Pendekatan ini memungkinkan model memahami kausalitas, bukan cuma korelasi statistik antar token.
Kenapa ini revolusioner? Karena NSP memberikan model kemampuan untuk bernalar tentang “apa yang akan terjadi” di situasi yang belum pernah dilihat sebelumnya. Model bahasa tradisional cuma bisa generate teks yang mirip dengan data training-nya. Orca, setidaknya secara arsitektur, punya potensi untuk benar-benar memahami dinamika dunia.
Cara Kerja Orca World Foundation Model: Dua Paradigma Belajar
Orca belajar lewat dua paradigma komplementer yang terinspirasi dari kognisi manusia. Unconscious learning untuk menyerap transisi state alami dari video kontinu. Conscious learning untuk menangkap transisi state bermakna yang dijelaskan oleh bahasa.
Unconscious Learning. Bayangin nonton video seseorang lagi masak. Tanpa sadar, otak menyerap pola: tangan bergerak ke kiri, pisau turun, tomat terbelah. Nggak perlu label atau instruksi. Otak belajar dari observasi pasif. Orca melakukan hal yang sama: dari 125 ribu jam video, ia belajar memprediksi latent frame berikutnya tanpa supervisi eksplisit.
Conscious Learning. Sekarang bayangin Anda diberi instruksi: “Iris tomat jadi dua bagian.” Dengan panduan bahasa ini, otak fokus ke transisi state yang relevan: dari tomat utuh ke tomat terbelah. Orca menggunakan anotasi event dan VQA supervision untuk belajar transisi state yang terarah. Hasilnya, model bisa mengikuti instruksi spesifik daripada cuma nebak-nebak aja.
Kombinasi dua paradigma ini yang bikin Orca unik. Unconscious learning memberikan pemahaman luas tentang dunia. Conscious learning memberikan presisi untuk task tertentu. Bersama-sama, mereka membangun representasi dunia yang kaya.
Skala Data Orca World Foundation Model: 125 Ribu Jam Video
Data Orca nggak kaleng-kaleng. Untuk pre-training, tim BAAI mengumpulkan 125 ribu jam video dan 160 juta anotasi event. Komposisinya mencakup empat kategori utama:
- Ego-centric interaction: video perspektif orang pertama, seperti seseorang mengetik atau merakit barang
- Exo-centric manipulation: video perspektif orang ketiga, seperti robot lengan mengambil benda
- Action-free robot execution: demonstrasi robot tanpa campur tangan manusia
- Event-level transitions: momen-momen diskrit yang punya makna spesifik, seperti “tombol ditekan” atau “lampu menyala”
Skala ini penting karena world model butuh exposure ke sebanyak mungkin skenario untuk membangun representasi state yang general. Makin banyak variasi transisi state yang dilihat Orca, makin kuat kemampuannya mentransfer pengetahuan ke task baru.
Performa Orca di Berbagai Benchmark
Tim peneliti menguji Orca World Foundation Model dengan tiga downstream readout: text generation, image prediction, dan embodied action generation. Yang menarik, backbone Orca di-freeze setelah pre-training. Hanya decoder ringan per-modalitas yang dilatih. Ini sengaja dilakukan untuk membuktikan bahwa world latent yang dipelajari Orca benar-benar berguna.
Hasilnya? Orca mengungguli specialized baselines di skala yang sebanding di ketiga modalitas. Bukan cuma soal angka benchmark. Ini bukti bahwa stronger world latent menghasilkan stronger downstream readouts. Kalau representasi dunia model bagus, decoder sekecil apa pun bisa memanfaatkannya.
Dalam text generation, Orca kompetitif dengan model bahasa seukuran. Dalam image prediction, ia bisa memprediksi frame berikutnya dari video real-world dengan akurasi yang lebih baik daripada model video khusus. Dalam embodied action generation, ia menghasilkan gerakan robot yang lebih natural dibanding model aksi murni.
Keterbatasan Orca dan Arah ke Depan
Paper Orca jujur soal keterbatasannya. Beberapa poin penting:
- Cakupan modalitas terbatas. Versi saat ini cuma fokus ke visual dan bahasa. Audio, sentuhan, sinyal fisika belum termasuk
- Skala model masih kecil. Orca belum diuji di parameter scale yang sama dengan GPT-4 atau Gemini. Apakah NSP scaling law-nya sama menguntungkan dengan next-token prediction? Belum terbukti
- Efisiensi komputasi. Memproses 125 ribu jam video jelas butuh resource raksasa. Tantangan ke depan adalah bikin NSP lebih efisien tanpa mengorbankan kualitas representasi
- Evaluasi yang lebih ketat. Benchmark saat ini masih terbatas. Dunia butuh evaluation suite khusus untuk world model, bukan cuma task-specific benchmark yang udah ada
Meski ada batasan, arah riset ini penting. Orca membuka jalur baru untuk membangun AI yang benar-benar memahami dunia, bukan cuma meniru pola dari data training. Tim BAAI berencana merilis versi yang lebih besar dengan modalitas tambahan.
Pertanyaan Umum Seputar Orca World Foundation Model
Apa bedanya Orca World Foundation Model dengan GPT? GPT adalah large language model yang belajar next-token prediction. Orca adalah world foundation model yang belajar next-state prediction. GPT bisa generate teks, tapi nggak paham fisika dunia nyata. Orca mencoba membangun representasi utuh tentang bagaimana dunia bekerja.
Apakah Orca bisa generate video seperti Sora? Orca bisa memprediksi frame berikutnya dari video real-world, tapi bukan generate video cinematic seperti Sora. Fokus Orca lebih ke memahami state transition daripada membuat konten. Bedanya: Sora bikin video bagus, Orca bikin prediksi yang akurat.
Berapa skala model Orca? Paper Orca belum menyebut parameter count eksplisit, tapi hasil benchmark-nya dibandingkan dengan model seukuran. Tim BAAI menjanjikan versi yang lebih besar dengan lebih banyak modalitas di masa depan.
Bisakah Orca dipakai di Indonesia? Untuk saat ini Orca masih sebatas riset. Tapi pendekatan NSP dan kombinasi unconscious + conscious learning bisa diadopsi untuk proyek AI vision dan robotics yang mulai berkembang di industri lokal.
Apakah Orca akan open source? Tim BAAI berencana merilis beberapa komponen Orca sebagai open source. Belum ada timeline pasti, tapi paper menyebutkan rencana untuk melepas model dan beberapa komponen data.
Final Thoughts
Orca World Foundation Model bukan model yang bakal langsung dipakai di aplikasi sehari-hari besok. Tapi ia adalah langkah penting menuju general intelligence. World foundation model yang belajar state transition, bukan cuma token prediction, adalah arah yang lebih menjanjikan untuk AI yang benar-benar bisa nalar tentang dunia fisik.
Buat praktisi AI di Indonesia, Orca menarik untuk diikuti karena beberapa alasan. Pertama soal pendekatan NSP yang relevan untuk aplikasi robotics dan automation di industri lokal. Metodologi unconscious + conscious learning juga bisa diterapkan di skala lebih kecil untuk proyek riset. Dan yang paling penting, paper ini bukti bahwa paradigma baru masih mungkin muncul di tengah dominasi transformer dan next-token prediction.
Sumber tambahan: diskusi Orca di Hugging Face Papers dan analisis di Emergent Mind.
Baca juga:
Tertarik belajar lebih lanjut? Baca langsung paper Orca di arXiv. Kalau Anda punya resource GPU, beberapa komponen Orca rencananya bakal di-open source oleh tim BAAI.