Self-Correcting AI Agent: Refleksi Diri dan Implementasi
Irfan Mulyana
August 23, 2026 7:26 pm
.
9 min read
Ringkasan Singkat
Self-correcting AI agent adalah sistem yang memeriksa, mengkritik, dan memperbaiki outputnya sendiri sebelum hasil itu dianggap final. Konsep ini bukan sekadar membuat model AI “lebih pintar”, melainkan membangun mekanisme refleksi aktif di dalam alur kerja agen. Dua fondasi utamanya lahir dari riset 2023, yaitu Reflexion dan Self-Refine, dan sekarang sudah menjadi fitur bawaan di framework populer seperti LangChain, CrewAI, dan AutoGen.
Artikel ini membahas cara kerja kedua framework tersebut, bagaimana menerapkannya untuk coding agent, tools yang tersedia, serta pitfall yang paling sering membuat implementasi gagal.
Mengapa AI Agent Perlu Self-Correction
Seorang developer tidak langsung mengirim kode pertama ke production. Ada review, testing, perbaikan, lalu review ulang. AI agent yang bekerja tanpa lapisan validasi seperti itu cenderung menghasilkan output yang tampak meyakinkan tapi keliru di bagian detail.
Masalahnya, model bahasa bekerja dengan memprediksi token paling mungkin, bukan dengan memverifikasi kebenaran. Ketika agen diberi tugas multi-langkah, kesalahan kecil di langkah awal bisa merambat dan membesar di langkah berikutnya. Self-correction memutus rantai itu dengan menyisipkan titik evaluasi di antara proses generasi dan hasil akhir.
Ada dua jenis validasi yang biasanya digabung. Validasi eksternal memakai alat objektif seperti unit test, linter, type checker, atau skrip cek lain yang hasilnya pass atau fail. Validasi internal memakai model itu sendiri untuk menilai kualitas output berdasarkan kriteria yang sudah ditentukan sebelumnya. Kombinasi keduanya jauh lebih andal daripada hanya mengandalkan salah satu.
Perbedaan penting lainnya: self-correction bukan soal membuat model mengoreksi typo. Ini tentang agen yang mampu mengidentifikasi akar masalah, menyusun hipotesis perbaikan, menguji ulang, dan mencatat pelajaran untuk tugas berikutnya. Saya melihat pola ini bekerja paling baik ketika agen punya memory yang menyimpan catatan kegagalan, bukan sekadar mengulang proses yang sama.
Dua Framework Kunci: Reflexion dan Self-Refine
Riset tentang self-correction untuk model bahasa menguat sejak awal 2023 lewat dua paper yang sekarang menjadi rujukan standar industri.
Reflexion diperkenalkan oleh Shinn dan koleganya di paper berjudul Reflexion: Language Agents with Verbal Reinforcement Learning. Konsep utamanya adalah verbal reinforcement learning dengan episodic memory buffer. Setiap kali agen gagal menyelesaikan tugas, agen menulis refleksi dalam bahasa alami tentang penyebab kegagalan, lalu menyimpannya di buffer memori. Ketika menghadapi tugas serupa, agen membaca refleksi lama itu sebelum mencoba lagi.
Yang membedakan Reflexion dari pendekatan lain: refleksi ditulis berdasarkan sinyal error yang konkret, misalnya pesan error dari environment atau hasil test yang gagal. Agen belajar dari sejarah kegagalannya sendiri, mirip manusia yang mengingat kesalahan agar tidak mengulanginya. Paper lengkapnya bisa dibaca di arXiv 2303.11366.
Self-Refine datang dari Madaan dan koleganya dengan paper Self-Refine: Iterative Refinement with Self-Feedback. Pendekatannya lebih sederhana dan langsung: model membuat draft awal, lalu mengkritik draftnya sendiri, memperbaiki berdasarkan kritik itu, dan mengulang sampai hasilnya dianggap cukup baik. Tidak ada memory jangka panjang, semua berjalan dalam satu sesi.
Self-Refine terbukti meningkatkan performa di berbagai tugas seperti penulisan teks, penalaran matematika, dan optimasi kode dibandingkan generasi sekali jalan. Detail lengkapnya ada di arXiv 2303.17651 dan situs resmi selfrefine.info.
Perbandingan Reflexion dan Self-Refine
Kedua framework ini sering dianggap sama padahal filosofinya berbeda. Reflexion unggul untuk skenario yang membutuhkan pembelajaran lintas percobaan, sementara Self-Refine lebih ringan dan cocok untuk perbaikan dalam satu sesi. Tabel berikut merangkum perbedaannya.
| Aspek | Reflexion | Self-Refine |
|---|---|---|
| Mekanisme inti | Refleksi verbal disimpan di episodic memory buffer | Iterasi generate, kritik, refine dalam satu sesi |
| Memory jangka panjang | Ada, lintas percobaan | Tidak ada |
| Kebutuhan token | Lebih besar karena menyimpan riwayat refleksi | Lebih hemat, hanya siklus per tugas |
| Cocok untuk | Tugas kompleks berulang, computer task execution | Perbaikan teks, kode, penalaran sekali jalan |
| Kekuatan utama | Belajar dari kegagalan masa lalu | Sederhana dan mudah diimplementasikan |
| Kelemahan | Overhead storage dan retrieval | Rentan terjebak di local optimum |
Di produksi, banyak tim menggabungkan keduanya. Loop Self-Refine dipakai untuk perbaikan cepat antar iterasi, sementara Reflexion-style memory dipakai untuk menyimpan pelajaran lintas task. Pendekatan hibrida ini yang paling sering saya rekomendasikan saat tim mulai membangun agen otonom.
Self-Correcting Agent untuk Coding
Domain paling produktif untuk self-correction adalah code generation. Alasannya sederhana: hasil kode bisa divalidasi secara objektif dengan menjalankan test.
Pola yang paling umum adalah test-driven loop. Agen menulis kode, lalu skrip otomatis menjalankan unit test. Jika test gagal, output error bersama stack trace dikirim kembali ke agen sebagai konteks. Agen menganalisis penyebab, memperbaiki kode, lalu test dijalankan lagi. Siklus ini berulang sampai test lulus atau batas iterasi tercapai.
Lapisan kedua adalah static analysis. Setelah test lulus, agen menjalankan linter dan type checker untuk menangkap masalah gaya, variabel tidak terpakai, atau potensi bug yang tidak terlihat saat runtime. Lapisan ini menangkap banyak masalah kecil yang biasa luput dari unit test.
Lapisan ketiga adalah review dokumentasi. Agen diminta memastikan docstring sesuai dengan implementasi aktual. Ini penting karena dokumentasi yang tidak sinkron dengan kode sering menjadi sumber kebingungan di tim.
Implementasi paling dasar dari loop ini bisa dimulai tanpa framework berat. Cukup gabungkan API model dengan runner test sederhana, lalu atur jumlah maksimum iterasi agar biaya token tetap terkendali. Untuk tim yang sudah memakai ekosistem tertentu, framework seperti LangChain dan CrewAI sudah menyediakan komponen siap pakai.
Tools Implementasi yang Tersedia
LangChain menyediakan komponen callback dan retry chain untuk membangun jalur self-correction. Konsepnya straightforward: setiap pemanggilan chain dipantau, output dievaluasi terhadap kriteria, dan jika tidak memenuhi syarat, chain dipanggil ulang dengan konteks kegagalan. Ekosistemnya modular sehingga mudah disesuaikan dengan validator buatan sendiri.
CrewAI mengambil pendekatan multi-agent. Satu agent berperan sebagai generator, agent lain sebagai reviewer yang menilai hasil. Ketika tugas dikonfigurasi dengan validasi aktif, hasil tidak ditandai selesai sebelum lolos review. Model ini meniru alur kerja tim developer sungguhan dan sangat cocok untuk proyek yang membutuhkan pemisahan peran.
OpenHands adalah coding agent otonom yang langsung mengintegrasikan testing dan debugging di dalam alurnya. Agen menulis kode, menjalankan test di lingkungan sandbox, membaca error, lalu memperbaiki. Karena berjalan di environment yang terkontrol, agen bisa mencoba solusi tanpa risiko merusak sistem utama.
AutoGen dari Microsoft menonjol dengan pola group chat. Beberapa agent berdiskusi tentang solusi, ada yang bertindak sebagai critic yang menantang usulan orang lain. Pola ini berguna untuk masalah kompleks yang butuh banyak sudut pandang sebelum keputusan diambil.
Baca juga:
Untuk proyek open source, repositori madaan/self-refine berisi implementasi referensi Self-Refine, sementara rohansx/reflect menyediakan engine self-correction untuk coding agent yang menerjemahkan hasil test menjadi sinyal error terstruktur.
Memilih framework sebaiknya berdasarkan kebutuhan, bukan popularitas. Tim yang fokus coding akan lebih terbantu OpenHands. Proyek yang butuh pemisahan peran jelas cocok dengan CrewAI. Eksperimen riset atau integrasi custom lebih fleksibel dengan LangChain.
Pitfall yang Sering Muncul
Implementasi self-correction jarang gagal karena konsepnya, melainkan karena kesalahan konfigurasi yang berulang. Berikut yang paling sering terjadi.
Loop tak berujung. Agen terus merevisi tanpa pernah mencapai kriteria. Penyebab utamanya kriteria yang tidak terukur, seperti instruksi “buat lebih elegan”. Solusinya tetapkan stop condition yang eksplisit: jumlah iterasi maksimum, batas waktu, atau kriteria biner yang bisa dicek otomatis.
Token membengkak. Setiap iterasi menambahkan riwayat percakapan ke konteks. Tanpa strategi kompresi, biaya token naik drastis dan konteks cepat penuh. Gunakan ringkasan berkala atau simpan riwayat lama di database eksternal, cukup kirim pointer-nya ke model.
Hallucination yang menguat. Saat agen gagal, model kadang menjelaskan kegagalan dengan alasan yang masuk akal tapi salah. Kritik berikutnya ikut terkontaminasi keyakinan keliru itu. Validator eksternal seperti test dan linter adalah tameng terbaik karena hasilnya objektif dan tidak bergantung pada penilaian model.
Kriteria validasi terlalu longgar. Validator yang hanya mengecek happy path memberikan rasa aman palsu. Perluas cakupan dengan edge case, property-based testing, atau acceptance criteria dari pengguna akhir.
Melewatkan observability. Tanpa log lengkap tiap iterasi, sulit menemukan titik di mana kualitas justru menurun. Catat seluruh riwayat: prompt, output, hasil validasi, dan durasi. Data ini juga berguna untuk memperbaiki prompt refleksi di iterasi berikutnya.
Checklist Implementasi
Berikut urutan langkah yang bisa diikuti untuk membangun self-correcting agent dari nol.
- Pilih satu workflow berulang yang paling sering memakan waktu perbaikan manual. Fokus ke satu kasus dulu, jangan langsung membangun sistem untuk semua tugas.
- Tuliskan definisi output yang benar secara konkret, idealnya dalam bentuk metric yang bisa diukur atau kriteria yang bisa dicek otomatis.
- Mulai dari pola retry-on-failure yang sederhana. Tambahkan komponen refleksi seperti critic agent atau memory buffer secara bertahap, satu per satu.
- Pisahkan peran generator dan validator. Satu model yang mengkritik outputnya sendiri cenderung bias; gunakan prompt berbeda atau agent terpisah untuk evaluasi.
- Siapkan test harness yang mengukur performa sebelum dan sesudah self-correction diaktifkan. Bandingkan success rate, jumlah iterasi, dan biaya token.
- Tetapkan circuit breaker. Jika pola kegagalan menunjukkan masalah sistemik, misalnya requirements yang ambigu, hentikan retry otomatis dan laporkan ke manusia.
- Pantau dengan telemetry. Tanpa data, tidak ada dasar untuk optimasi selanjutnya.
Dengan urutan ini, tim bisa mendapat hasil terukur dalam beberapa minggu tanpa perlu membangun segalanya dari awal.
Kesimpulan
Self-correcting AI agent adalah teknologi yang sudah matang dan bisa langsung dipakai, bukan konsep riset yang masih jauh dari produksi. Fondasinya ada di paper Reflexion dan Self-Refine yang terbit tahun 2023, dan kini framework mainstream sudah mengemas mekanisme ini sebagai fitur bawaan.
Saya menyarankan pendekatan bertahap. Mulai dari satu workflow kecil dengan retry sederhana, tambahkan refleksi dan memory seiring berjalannya waktu, lalu ukur dampaknya dengan data. Kombinasi validator eksternal dan refleksi internal hampir selalu lebih unggul daripada mengandalkan salah satunya saja.
Biaya token memang naik, tapi biasanya sebanding dengan hasil yang lebih akurat dan jauh lebih sedikit perbaikan manual. Untuk tim yang serius membangun agen otonom, self-correction bukan opsional, melainkan lapisan yang wajib ada.
Baca juga panduan Langflow untuk AI agent visual, panduan Windsurf untuk vibe coding, panduan context engineering, dan panduan Claude Code CLI untuk pemula untuk melengkapi alur kerja agent Anda.
Pertanyaan Umum
Apakah semua tugas membutuhkan self-correction? Tidak. Tugas sederhana seperti mengisi template atau CRUD dasar tidak mendapat manfaat signifikan dari refleksi. Fokuskan pada tugas kompleks, multi-langkah, atau yang konsekuensi errornya besar.
Berapa iterasi yang wajar? Mayoritas tugas selesai dalam 0 hingga 2 iterasi. Jika banyak tugas butuh lebih dari 5 iterasi, kemungkinan ada masalah di prompt, kriteria, atau kompleksitas tugas itu sendiri.
Bisakah beberapa framework digabung? Bisa. Kombinasi LangChain untuk orkestrasi, AutoGen untuk kritik multi-agent, dan validator Python custom sangat umum dipakai di produksi.
Apakah model open source mampu menjalankan self-correction? Mampu. Model seperti DeepSeek Coder, Mistral, dan Llama cukup baik untuk peran kritik dan perbaikan. Pemilihan akhir tetap mempertimbangkan trade-off kualitas dan biaya.
Bagaimana menghindari biaya token yang membengkak? Batasi jumlah iterasi, ringkas riwayat refleksi, dan gunakan model lebih kecil untuk tahap kritik yang hanya membutuhkan penilaian sederhana.
