84 istilah terkait AI & bahasa alami
| Istilah | Kategori | Deskripsi |
|---|---|---|
| Large Language Model (LLM) Dasar dari chatbot seperti ChatGPT. Makin besar paramaternya, makin kompleks kemampuannya. | arch | Model AI yang dilatih pada data teks dalam jumlah sangat besar untuk memahami dan menghasilkan bahasa alami. |
| Transformer Diperkenalkan dalam paper 'Attention Is All You Need' (2017). Menjadi fondasi hampir semua LLM modern. | arch | Arsitektur jaringan saraf yang mengandalkan mekanisme attention untuk memproses urutan teks secara paralel. |
| Attention Memungkinkan model memahami relasi antar kata meski berjauhan dalam kalimat. | arch | Mekanisme yang memungkinkan model memberi bobot lebih pada bagian input yang relevan saat memproses konteks. |
| Self-Attention Komponen inti encoder-decoder Transformer untuk menangkap dependensi internal. | arch | Attention yang menghubungkan setiap token dengan semua token lain dalam urutan yang sama. |
| Multi-Head Attention Tiap 'head' belajar fokus pada aspek hubungan yang berbeda dalam teks. | arch | Mekanisme attention yang dijalankan beberapa kali paralel dengan representasi berbeda. |
| Token 'ChatGPT' bisa dipecah menjadi beberapa token. Jumlah token menentukan biaya dan batas konteks. | arch | Unit terkecil teks yang diproses model, bisa berupa kata, sub-kata, atau karakter. |
| Tokenizer Berbeda antar model (mis. BPE untuk GPT). Kata yang jarang sering dipecah jadi beberapa token. | arch | Komponen yang memecah teks menjadi token sebelum masuk ke model, dan menyatukannya kembali saat output. |
| Embedding Kata dengan makna mirip akan punya vektor yang berdekatan dalam ruang semantik. | arch | Representasi vektor numerik dari token/kata yang menangkap makna semantis. |
| Context Window Model modern punya konteks hingga jutaan token. Input di luar batas akan terpotong. | arch | Jumlah token maksimal yang dapat diproses model dalam satu kali interaksi. |
| Parameter Ukuran model dinyatakan dalam miliar parameter, mis. 7B, 70B, 405B. | arch | Nilai numerik internal (bobot) yang dipelajari model selama pelatihan dan menentukan perilakunya. |
| Hidden State Membawa informasi semantik yang terus diperbarui di tiap lapisan. | arch | Representasi internal hasil olahan lapisan model di antara input dan output. |
| Positional Encoding Transformer tidak memproses urutan secara berurutan, sehingga perlu info posisi. | arch | Informasi posisi tiap token yang ditambahkan ke embedding agar model paham urutan kata. |
| Softmax Dipakai di lapisan akhir untuk memilih token berikutnya berdasarkan probabilitas. | arch | Fungsi yang mengubah skor mentah menjadi distribusi probabilitas yang totalnya 1. |
| Feed-Forward Network Biasanya ada di tiap blok Transformer setelah mekanisme attention. | arch | Lapisan jaringan saraf yang memproses hasil attention lewat transformasi non-linear. |
| Kuantisasi (Quantization) Model terkuantisasi lebih ringan untuk disebarkan, dengan pengorbanan akurasi kecil. | arch | Teknik mengurangi presisi angka parameter (mis. FP16 ke INT8) untuk memperkecil dan mempercepat model. |
| Loss Function Target pelatihan adalah meminimalkan nilai loss ini. | arch | Fungsi yang mengukur seberapa jauh prediksi model dari jawaban yang benar. |
| Mixture of Experts (MoE) Menambah kapasitas tanpa melipatgandakan biaya komputasi tiap token. | arch | Arsitektur yang membagi model menjadi banyak sub-model 'ahli' dan hanya mengaktifkan sebagian saat inferensi. |
| Latent Space Pergerakan di ruang ini mendasari manipulasi makna seperti analogi kata. | arch | Ruang representasi tersembunyi tempat model menyimpan makna abstrak dari data. |
| Neural Network Landasan dari semua pendekatan deep learning termasuk LLM. | arch | Model komputasi terinspirasi otak yang terdiri dari lapisan neuron untuk mengenali pola data. |
| Pre-training Menghasilkan model dasar yang kemudian disempurnakan untuk tugas spesifik. | train | Tahap awal melatih model pada data teks massal (mis. dari internet) untuk memahami bahasa. |
| Fine-tuning Cara paling umum menyesuaikan LLM generik agar paham gaya atau topik tertentu. | train | Pelatihan lanjutan pada model yang sudah dilatih, menggunakan data spesifik suatu tugas/domain. |
| Supervised Fine-Tuning (SFT) Tahap yang membuat model bisa mengikuti instruksi dengan baik. | train | Fine-tuning menggunakan pasangan instruksi–jawaban yang diberi label manusia. |
| Reinforcement Learning from Human Feedback (RLHF) Kunci di balik perilaku ChatGPT yang ramah dan aman. | train | Teknik menyelaraskan model dengan preferensi manusia lewat reward dari penilai. |
| LoRA Sangat hemat memori; cocok untuk menyesuaikan model besar tanpa GPU mahal. | train | Metode fine-tuning efisien yang hanya memperbarui sebagian kecil parameter tambahan. |
| QLoRA Memungkinkan fine-tuning model 70B pada hardware konsumen. | train | Varian LoRA yang menggabungkan kuantisasi agar bisa fine-tuning model sangat besar di satu GPU. |
| Instruction Tuning Membuat model berperilaku seperti asisten, bukan sekadar menyelesaikan teks. | train | Melatih model dengan banyak contoh instruksi agar mampu merespons perintah dengan tepat. |
| Epoch Terlalu banyak epoch bisa menyebabkan overfitting. | train | Satu kali proses melewatkan seluruh dataset pelatihan melalui model. |
| Batch Ukuran batch memengaruhi stabilitas dan kecepatan pelatihan. | train | Kelompok sampel data yang diproses model sekaligus dalam satu langkah pembaruan. |
| Learning Rate Terlalu besar membuat model tidak stabil; terlalu kecil membuat pelatihan lambat. | train | Parameter yang menentukan seberapa besar penyesuaian bobot di tiap langkah pelatihan. |
| Gradient Descent Backpropagation menghitung gradien yang dipakai algoritma ini. | train | Algoritma optimasi yang meminimalkan loss dengan bergerak menurun mengikuti gradien. |
| Backpropagation Bekerja mundur dari output ke input untuk memperbarui bobot. | train | Metode menghitung gradien loss terhadap semua parameter lewat aturan rantai. |
| Overfitting Ditandai akurasi tinggi di training tapi buruk di data validasi. | train | Kondisi model menghafal data pelatihan sehingga gagal pada data baru. |
| Dataset Kualitas dan keberagaman dataset sangat menentukan performa model. | train | Kumpulan data (teks, gambar, pasangan instruksi) yang dipakai untuk melatih atau menguji model. |
| Foundation Model Menjadi basis untuk fine-tuning berbagai aplikasi turunan. | train | Model berskala besar yang dilatih umum dan bisa disesuaikan untuk banyak tugas. |
| Data Augmentation Membantu model lebih umum dan mengurangi overfitting. | train | Membuat variasi data pelatihan tambahan (mis. parafrase) untuk memperkaya model. |
| Inference Yang terjadi saat Anda meminta jawaban pada chatbot. | infer | Proses model menghasilkan output/prediksi setelah tahap pelatihan selesai. |
| Sampling Menghasilkan variasi output; diatur oleh temperature dan top-p. | infer | Memilih token berikutnya secara acak berdasarkan distribusi probabilitas model. |
| Greedy Decoding Deterministik dan cepat, tapi bisa menghasilkan teks berulang. | infer | Strategi memilih token dengan probabilitas tertinggi di setiap langkah. |
| Beam Search Sering dipakai untuk tugas generasi terstruktur seperti terjemahan. | infer | Menjelajahi beberapa kandidat urutan terbaik sekaligus untuk menemukan output lebih optimal. |
| Hallucination Risiko utama LLM; mitigasi dengan grounding, RAG, dan verifikasi. | infer | Kondisi model menghasilkan informasi yang tampak meyakinkan tapi tidak benar/berbeda dari fakta. |
| Streaming Memberi pengalaman mengetik seperti ChatGPT saat menjawab. | infer | Model mengirimkan output token demi token secara real-time, bukan menunggu selesai. |
| Token Limit Berbeda dengan context window; output panjang bisa terpotong saat limit tercapai. | infer | Batas jumlah token yang bisa diproses atau dihasilkan model dalam sekali panggilan. |
| Repetition Penalty Bermanfaat untuk teks panjang yang cenderung mengulang frasa. | infer | Menekan token yang sudah sering muncul agar output tidak berulang. |
| Seed Seed sama + parameter sama menghasilkan output identik (berguna untuk debugging). | infer | Nilai awal untuk generator acak agar hasil sampling konsisten bila diulang. |
| GPT GPT pertama melahirkan tren ChatGPT dan percepatan LLM secara umum. | model | Keluarga model 'Generative Pre-trained Transformer' buatan OpenAI. |
| ChatGPT Tersedia versi gratis dan berbayar; menjadi referensi utama asisten AI. | model | Produk chatbot dari OpenAI yang dibangun di atas model GPT. |
| Retrieval-Augmented Generation (RAG) Dipakai agar jawaban grounded pada dokumen/DB perusahaan dan mengurangi halusinasi. | model | Arsitektur yang menggabungkan pencarian data eksternal dengan kemampuan generatif LLM. |
| Agent Bisa memakai tool, memanggil API, atau mengambil keputusan bertahap untuk mencapai tujuan. | model | Sistem AI yang dapat merencanakan dan menjalankan serangkaian tugas secara otonom. |
| Multimodal Memungkinkan fitur seperti analisis foto langsung di chatbot. | model | Model yang mampu memproses lebih dari satu jenis input, mis. teks, gambar, dan audio. |
| Embedding Model Outputnya disimpan di vector database untuk dipecampurkan dengan LLM (RAG). | model | Model khusus yang mengubah teks menjadi vektor untuk pencarian semantik. |
| Vector Database Kunci implementasi RAG dan pencarian dokumen berbasis makna. | model | Basis data yang menyimpan dan mencari vektor embedding berdasarkan kemiripan. |
| Semantic Search Memakai vektor embedding sehingga sinonim/konteks tetap tertangkap. | model | Pencarian berdasarkan makna, bukan kata kunci literal. |
| Text-to-Image Contoh: DALL·E, Stable Diffusion, Midjourney. | model | Model yang menghasilkan gambar dari deskripsi teks (prompt). |
| Chain-of-Thought (CoT) Meningkatkan akurasi soal logika dan matematika. | model | Teknik meminta model bernalar langkah demi langkah sebelum memberikan jawaban akhir. |
| Foundation Model Umumnya dapat digunakan ulang dan disesuaikan (fine-tune) untuk banyak tugas. | model | Model besar yang dilatih umum dan jadi dasar berbagai aplikasi turunan. |
| Open-Source Model Contoh: Llama, Mistral, Qwen, Gemma. Bebas biaya API. | model | Model dengan bobot yang dirilis terbuka sehingga bisa diunduh dan dieksekusi sendiri. |
| Closed Model Contoh: GPT-4o, Claude. Dioper vendor dengan kendali atas penggunaan. | model | Model yang hanya diakses lewat API dan bobotnya tidak dipublikasikan. |
| Temperature 0 Berguna untuk tugas coding dan ekstraksi data yang deterministik. | model | Pengaturan yang membuat output hampir selalu sama untuk input yang sama. |
| Prompt Kualitas prompt sangat menentukan kualitas jawaban. | prompt | Teks instruksi atau pertanyaan yang diberikan pengguna kepada model. |
| System Prompt Biasanya disembunyikan dari pengguna dan tidak boleh diubah lewat percakapan. | prompt | Instruksi tingkat sistem yang mengatur kepribadian dan aturan model secara global. |
| User Prompt Bisa disisipi konteks tambahan untuk memperbaiki respons. | prompt | Instruksi/pertanyaan yang dikirim pengguna pada tiap giliran percakapan. |
| Prompt Engineering Mencakup pemilihan kata, struktur, contoh, dan batasan. | prompt | Seni merancang instruksi agar model menghasilkan output yang diinginkan. |
| Few-shot Prompting Membantu model mengikuti pola tanpa perlu fine-tuning. | prompt | Memberi beberapa contoh (demonstrasi) di dalam prompt sebelum meminta output. |
| Zero-shot Prompting Sesuai untuk model modern yang sudah paham instruksi umum. | prompt | Meminta output tanpa menyertakan contoh sama sekali. |
| One-shot Prompting Jembatan antara zero-shot dan few-shot. | prompt | Memberikan tepat satu contoh sebelum meminta output. |
| Chain-of-Thought Prompting Efektif untuk soal logika, matematika, dan analisis. | prompt | Meminta model berpikir langkah demi langkah agar penalaran lebih akurat. |
| Role Prompting Membentuk nada dan gaya jawaban sesuai persona. | prompt | Menetapkan peran/model persona pada model, mis. 'kamu seorang konsultan keuangan'. |
| Negative Prompt Umum di text-to-image, tapi juga dipakai di prompt teks. | prompt | Menyebutkan hal-hal yang TIDAK boleh dilakukan/dimasukkan dalam output. |
| Delimiter Mengurangi risiko prompt injection dari data pengguna. | prompt | Penanda (mis. tanda kutip, tag XML) untuk memisahkan bagian instruksi dari data input. |
| Prompt Injection Validasi dan delimiter membantu memitigasi serangan ini. | prompt | Serangan dengan menyisipkan instruksi berbahaya ke dalam input agar model melanggar aturan. |
| Jailbreak Biasanya lewat skenario role-play, encoding, atau dalih hipotetis. | prompt | Teknik memanipulasi prompt untuk menghindari kerangka keselamatan model. |
| Perplexity Umum dipakai untuk mengukur kualitas language model. | eval | Metrik seberapa 'terkejut' model saat memprediksi teks; makin kecil makin baik. |
| Benchmark Contoh: MMLU, HellaSwag, GSM8K untuk penalaran dan pengetahuan. | eval | Sekumpulan tugas standar untuk mengukur kemampuan model secara objektif. |
| BLEU Umum untuk evaluasi terjemahan mesin. | eval | Metrik kesamaan n-gram antara output model dan terjemahan rujukan. |
| ROUGE Cocok untuk tugas summarization. | eval | Metrik untuk mengukur kualitas ringkasan dengan membandingkan kata-kata bersama rujukan. |
| Accuracy Mudah dipahami, tapi kurang informatif untuk tugas terbuka. | eval | Proporsi jawaban benar dari total pertanyaan yang diujikan. |
| Bias Berasal dari data pelatihan; harus diaudit dan dikurangi. | eval | Kecenderungan model menghasilkan output yang tidak adil atau stereotip terhadap kelompok tertentu. |
| Alignment Diraih lewat RLHF, safety training, dan evaluasi berkelanjutan. | eval | Proses memastikan perilaku model sejalan dengan niat dan nilai manusia. |
| Grounding Kunci mereduksi halusinasi, mis. lewat RAG. | eval | Mengaitkan jawaban model dengan sumber/fakta yang bisa diverifikasi. |
| Guardrail Berupa filter input/output, autentikasi, dan aturan domain. | eval | Lapisan kontrol yang membatasi apa yang boleh atau tidak boleh dilakukan model. |
| Moderation Biasanya diterapkan sebelum respons sampai ke pengguna. | eval | Filtrasi konten untuk memblokir/peringatan output yang berbahaya atau tidak pantas. |
| Red Teaming Dilakukan oleh tim/penyusup yang sengaja mencoba membobol model. | eval | Pengujian adversarial untuk menemukan celah keamanan dan perilaku tak diinginkan model. |
| Model Card Etika bawaan dari publishing model agar penggunanya paham risiko. | eval | Dokumen yang mendeskripsikan detail, kemampuan, dan batasan sebuah model. |
| Explainability Penting di domain berisiko tinggi seperti kesehatan dan keuangan. | eval | Tingkat kemampuan menjelaskan mengapa model mengambil keputusan tertentu. |