ThoughtDAG: membuat context LLM lebih terlihat dan bisa diedit
ThoughtDAG mencoba memindahkan pemilihan context LLM dari proses tersembunyi ke graph yang dapat diperiksa dan diedit.
Saat percakapan dengan AI makin panjang, masalahnya bukan hanya jumlah token. Kita juga perlu tahu bagian mana dari riwayat yang benar-benar ikut masuk ke request berikutnya. ThoughtDAG mencoba menjawab masalah itu dengan pendekatan visual: conversation history direpresentasikan sebagai graph yang bisa diperiksa dan diedit.
1. Apa itu ThoughtDAG?
ThoughtDAG adalah aplikasi untuk membuat context LLM terlihat. Demo resminya menunjukkan node percakapan, sumber eksternal, cabang riset, dan koneksi yang menentukan materi yang ikut dikirim ke model. Pengguna dapat memilih passage dari sumber, menghubungkannya ke percakapan, lalu melihat preview context sebelum menjalankan prompt.
2. Mengapa graph dipakai?
Chat biasa memperlihatkan apa yang pernah dikatakan, tetapi tidak selalu menjelaskan apa yang dipakai pada jawaban berikutnya. Di ThoughtDAG, koneksi antar-node menjadi bagian yang bisa diinspeksi. Demo-nya memperlihatkan kasus ketika cabang obrolan tentang makan malam ikut mencemari ringkasan riset; setelah edge itu dihapus, request menjadi lebih kecil dan konteksnya berubah. Angka pengurangan token pada demo adalah contoh dari aplikasi, bukan benchmark umum.
3. Catatan implementasi dan keamanan
Diskusi Hacker News menyebut fitur seperti semantic zoom, weave, dan condense sebagai bagian yang menarik. Diskusi yang sama juga memuat laporan potensi masalah pada pemanggilan `pdftoppm` dan binding server ke `0.0.0.0`. Itu bukan audit independen, jadi jangan menganggapnya sudah terbukti. Namun, laporan tersebut cukup spesifik untuk dijadikan checklist sebelum menjalankan aplikasi di mesin yang menyimpan data sensitif.
4. Kapan pendekatan ini berguna?
Pendekatan ini relevan untuk workflow riset, coding agent, dan percakapan yang memakai banyak dokumen. Nilainya bukan sekadar tampilan graph. Nilainya ada pada kemampuan menjawab pertanyaan: sumber mana yang sedang masuk, cabang mana yang harus dikeluarkan, dan bagaimana perubahan context memengaruhi jawaban. Untuk penggunaan produksi, validasi keamanan dan integrasi editor tetap perlu dilakukan sendiri.
ThoughtDAG menawarkan model mental yang jelas: context bukan sesuatu yang harus diterima begitu saja. Ia bisa dipilih, ditinjau, dan diubah sebelum model bekerja.
Referensi: https://chenxiachan.github.io/thoughtdag/