Development of an Algebraic Mathematics Question Answering System Using DeepSeek-R1 and Retrieval-Augmented Generation

Matematika aljabar merupakan salah satu bidang yang kerap menimbulkan kesulitan bagi pelajar dalam memahami langkah-langkah penyelesaian soal secara sistematis. Large Language Model (LLM) yang bersifat umum masih rentan terhadap hallucination dan kurang optimal untuk domain matematika. Penelitian ini bertujuan membangun sistem tanya jawab matematika aljabar dengan mengintegrasikan model DeepSeek-R1-0528-Qwen3-8B yang diadaptasi melalui Low-Rank Adaptation (LoRA) berkuantisasi 4-bit dan Retrieval-Augmented Generation (RAG) berbasis ChromaDB. Model di-fine-tune menggunakan 398 sampel dari dataset EleutherAI/hendrycks_math subset aljabar, sementara 300 sampel digunakan sebagai basis pengetahuan RAG. Pelatihan selama satu epoch berhasil menurunkan training loss dari 1.9070 menjadi 0.9042. Pengujian terhadap 15 iterasi aljabar tingkat kompetisi menghasilkan Pass@1 sempurna sebesar 1,0, rata-rata BLEU-4 sebesar 0.0793, serta ROUGE-L F1, Precision, dan Recall masing-masing sebesar 0.5344, 0.5202, dan 0.8000. Nilai Recall yang tinggi membuktikan bahwa integrasi LoRA dan RAG efektif meningkatkan ketepatan sistem dalam menjawab soal matematika aljabar secara akurat dan konsisten.