Context Pada LLM (ChatGPT) ~ Catatan Umum

Materi: Context pada ChatGPT dan cara agar ChatGPT "Tahan Lupa"

Di ChatGPT, context adalah seluruh informasi yang “sedang dipegang” model saat menjawab kamu.

ChatGPT tidak punya ingatan permanen (kecuali fitur memory tertentu),
ia hanya tahu apa yang ada di dalam context percakapan saat ini.

Isi Context ChatGPT (yang REAL terjadi)

Saat kamu mengetik satu pertanyaan, ChatGPT tidak hanya membaca 1 pesan itu saja.

Yang dibaca model sebenarnya adalah:

1️⃣ System instruction
→ aturan internal (gaya bicara, batasan, peran)

2️⃣ Developer instruction
→ instruksi teknis tambahan (misalnya: “jawab teknis”, “gunakan bahasa Indonesia”)

3️⃣ Conversation history
→ chat sebelumnya dalam sesi itu

4️⃣ User message terbaru
→ pertanyaan kamu sekarang

Semua itu digabung menjadi satu context besar.

Ilustrasi sederhana (cara ChatGPT “melihat” chat)

Yang kamu lihat:


User: Apa itu context?
Assistant: ...
User: Jelaskan lebih spesifik ke ChatGPT

Yang dibaca ChatGPT sebenarnya:


[SYSTEM] Kamu adalah ChatGPT, ikuti aturan X Y Z
[DEV] Gunakan bahasa Indonesia, teknis, jelas
[USER] Tolong jelaskan apa itu context Windows AI LLM
[ASSISTANT] (jawaban sebelumnya)
[USER] Saya ingin penjelasan lebih spesifik ke ChatGPT

➡️ Itu sebabnya jawaban lanjutan bisa nyambung, meski kamu tidak mengulang pertanyaan dari awal.

Context Window (batas ingatan ChatGPT)

ChatGPT punya batas panjang context, disebut context window.

Artinya:

Chat terlalu panjang → bagian awal dikeluarkan
ChatGPT tidak lupa karena bodoh, tapi karena keluar dari window

📌 Dampaknya:

“Lho kok lupa yang tadi?”
“Kok jawabannya jadi beda?”

Itu normal secara teknis.

Context ≠ Memory (ini penting banget)

Konsep	Di ChatGPT
Context	Aktif selama chat
Memory	Opsional, terbatas
Training data	Masa lalu, bukan ingatan pribadi
Knowledge	Statis sampai update model

Contoh:

❌ “Kamu ingat saya kemarin” → biasanya tidak
✅ “Dalam chat ini, kamu tadi bilang…” → iya

Kenapa jawaban ChatGPT bisa berubah?

Karena context berubah.

Perubahan kecil bisa berdampak besar:

Urutan kata
Tambahan kalimat
Nada pertanyaan
Informasi sebelumnya

📌 Contoh ekstrem:


“Apa itu firewall?”
vs
“Kamu adalah dosen S2 jaringan, jelaskan firewall”

Context berbeda → jawaban berbeda.

Cara MEMANFAATKAN context supaya ChatGPT optimal

Ini praktis dan penting buat kamu yang sering diskusi teknis 👇

1️⃣ Jangan takut refer ke chat sebelumnya

“Lanjutkan dari penjelasan tentang context window tadi”

Ini mengunci context.

2️⃣ Tegaskan peran & sudut pandang

“Jawab sebagai engineer network”

Itu langsung masuk context.

3️⃣ Ulang info penting (jika chat sudah panjang)

Kalau chat mulai panjang:

“Sebagai pengingat: saya pakai Ubuntu 22.04 dan fokus security”

Ini menyegarkan context.

4️⃣ Satu topik = satu sesi (ideal)

ChatGPT bukan database relasional 😄
Topik lompat-lompat bikin context “kotor”.

Versi super ringkas (TL;DR)

Context di ChatGPT adalah seluruh percakapan + instruksi yang masih muat di context window dan dipakai model untuk menjawab kamu saat itu. ChatGPT tidak benar-benar mengingat di luar context tersebut.

Konsep dasar: kenapa ChatGPT “lupa”

Bukan lupa sungguhan — tapi karena:

Context window terbatas
Informasi lama tergeser keluar
Chat bercabang & topik campur

👉 Solusinya: buat context yang bisa “di-refresh” secara sadar

1️⃣ Buat Anchor Prompt (Prompt Jangkar)

Ini fondasi utama.

Pola:


Untuk diskusi ini:
- Peran kamu: ...
- Peran saya: ...
- Topik utama: ...
- Tujuan akhir: ...
- Asumsi teknis tetap: ...
Gunakan ini sebagai konteks default kecuali saya ubah.

Contoh (versi IT / security):


Untuk diskusi ini:
- Kamu berperan sebagai konsultan cyber security
- Saya network engineer
- Topik: arsitektur keamanan server Linux
- Tujuan: desain final yang siap produksi
- Asumsi tetap: Ubuntu 22.04, lingkungan on-prem
Gunakan konteks ini secara konsisten.

📌 Efeknya:
ChatGPT akan “mengunci mindset” sejak awal.

2️⃣ Pakai Context Refresh Prompt (penyegar ingatan)

Setiap chat mulai panjang (±15–20 balasan), lakukan refresh.

Pola:


Sebelum lanjut, ringkas konteks diskusi kita saat ini dalam 5 poin teknis.
Gunakan ringkasan itu sebagai konteks utama selanjutnya.

Lalu lanjutkan diskusi.

📌 Ini trik paling efektif untuk diskusi panjang.

3️⃣ Teknik State Snapshot (versi engineer banget)

Anggap diskusi seperti sistem state.

Pola:


STATE SAAT INI:
- Masalah utama:
- Solusi yang sudah disepakati:
- Parameter tetap:
- Hal yang belum dibahas:
Gunakan state ini sebagai acuan.

Contoh:


STATE SAAT INI:
- Masalah: Hardening SSH server
- Disepakati: Key-based auth, non-root login
- Parameter tetap: Port 22 tetap dibuka via firewall
- Belum dibahas: Fail2ban tuning

📌 Ini membuat AI tidak perlu mengingat histori panjang, cukup state.

4️⃣ Pisahkan: Context Tetap vs Context Variabel

Ini sering dilupakan.

Context Tetap (ulang jika perlu):

OS
Versi software
Tujuan akhir
Peran AI

Context Variabel:

Error terbaru
Percobaan terakhir
Output log

📌 Jangan campur semuanya dalam satu paragraf.

5️⃣ Gunakan Label & Heading (LLM suka ini)

ChatGPT sangat responsif ke struktur.

Contoh:


[CONTEXT TETAP]
OS: Ubuntu 22.04
Role kamu: Security engineer

[UPDATE TERAKHIR]
Saya baru mengganti konfigurasi SSH

[PERTANYAAN]
Bagaimana tuning Fail2ban terbaik?

Ini jauh lebih “tahan lupa” dibanding teks naratif.

6️⃣ Hindari “Prompt Berjalan” (silent assumption)

❌ Buruk:

“Seperti yang kemarin, lanjutkan ya”

✅ Aman:

“Lanjutkan konfigurasi Fail2ban berdasarkan setup SSH key-only sebelumnya”

7️⃣ Teknik Darurat: Context Reset Terarah

Kalau kamu merasa jawabannya mulai ngaco:


Abaikan detail yang tidak relevan.
Gunakan ulang konteks berikut sebagai dasar:
[ringkasan konteks versi kamu]

Ini hard reset tapi tetap terkontrol.

Template PROMPT “TAHAN LUPA” (siap copy-paste)


KONTEKS DISKUSI (TETAP):
- Peran kamu:
- Peran saya:
- Topik utama:
- Tujuan akhir:
- Lingkungan teknis:

STATE SAAT INI:
- Yang sudah disepakati:
- Yang sedang dikerjakan:
- Yang belum dibahas:

INSTRUKSI:
- Jawab teknis dan ringkas
- Konsisten dengan konteks di atas
- Jangan mengubah asumsi tanpa konfirmasi

PERTANYAAN:
...

Kenapa teknik ini efektif?

Karena:

LLM unggul di struktur
Context ringkas > histori panjang
AI “berpikir” lebih stabil

Engineer mindset banget 😄

Catatan Umum