Model Bahasa Kecil yang telah Disempurnakan Mampu Memahami Konteks Layanan Keuangan Lokal, Istilah Industri, hingga Pertanyaan Nasabah yang Ambigu
TAIPEI, 12 Juni 2026 /PRNewswire/ — Cathay Financial Holdings (Cathay FHC) terus mendorong pemanfaatan kecerdasan buatan generatif (generative AI) di sektor jasa keuangan melalui kerangka teknologi AI generatif yang dikembangkannya, GAIA, serta strategi AI-as-a-Service (AIaaS). Lewat langkah ini, Cathay FHC ingin meningkatkan efisiensi operasional dan menghadirkan layanan yang lebih baik bagi nasabah. Setelah membuktikan potensi model bahasa besar (LLM) untuk layanan keuangan pada tahun lalu, Cathay FHC memaparkan hasil riset terbaru di ajang NVIDIA GTC Taipei 2026. Dalam riset tersebut, Cathay FHC menunjukkan kinerja model bahasa kecil (SLM) dengan sumber terbuka (open source) yang telah disempurnakan. SLM ini mampu mengelompokkan kebutuhan nasabah dan mendukung berbagai layanan keuangan masa depan.
Studi tersebut mengevaluasi sejumlah model open source terkemuka yang dikembangkan oleh Meta, TAIDE, TAME, NVIDIA, dan OpenAI. Hasil awal menunjukkan, dalam kerangka pengujian yang digunakan, SLM yang telah disempurnakan tersebut berpotensi mengurangi ketergantungan terhadap teknik prompt engineering yang kompleks serta modul vector retrieval. Pendekatan ini dapat menyederhanakan arsitektur sistem, serta menekan kompleksitas operasional dan pemeliharaan sistem pada masa mendatang.
Hasil penelitian juga menunjukkan, kombinasi antara rangkaian data sektor keuangan yang dirancang secara cermat dan proses penyempurnaan yang terarah mampu meningkatkan stabilitas model, efisiensi inferensi, serta kendali dalam proses implementasi. Dalam tugas klasifikasi kebutuhan nasabah, SLM yang telah disempurnakan ini menghasilkan kinerja yang mendekati LLM closed-source yang banyak beredar, bahkan hampir menandingi kemampuan model terdepan. Temuan tersebut dapat menjadi referensi praktis bagi perusahaan untuk menyusun strategi pelatihan dan implementasi model AI.
Dari sisi tata kelola data dan privasi, penelitian ini menggunakan pendekatan data sintetis sehingga tidak memanfaatkan informasi nasabah dalam proses pelatihan model. Cathay FHC juga menerapkan berbagai teknik, termasuk pengelompokan fungsi layanan, perancangan rangkaian data untuk kebutuhan tunggal maupun ganda, lokalisasi konteks Taiwan, serta perluasan kata kunci. Pendekatan tersebut memperkuat kemampuan model dalam memahami konteks layanan keuangan lokal, terminologi industri, serta pertanyaan nasabah yang bersifat ambigu.
Cathay FHC menilai teknologi tersebut dapat diterapkan pada berbagai layanan masa depan, seperti pengecekan saldo kredit pemilikan rumah (KPR), bantuan pembayaran kartu kredit, hingga navigasi layanan cabang. Pengembangan ini menjadi fondasi bagi layanan pencarian cerdas, pengalihan layanan secara otomatis, serta pengalaman interaksi nasabah generasi berikutnya.
Dari sisi arsitektur teknologi, Cathay FHC mengintegrasikan berbagai perangkat AI NVIDIA, termasuk NVIDIA NeMo Customizer, NVIDIA NeMo Curator, dan NVIDIA TensorRT-LLM, serta memanfaatkan sumber daya komputasi berbasis arsitektur NVIDIA Hopper. Infrastruktur tersebut mendukung proses pembuatan data, penyesuaian model, optimalisasi inferensi, hingga evaluasi eksperimen. Dengan ekosistem AI NVIDIA, Cathay FHC terus memperkuat kapabilitasnya dalam pengembangan model khusus sektor keuangan, tata kelola data, dan validasi aplikasi.
Dalam beberapa tahun terakhir, Cathay FHC secara konsisten memperluas inovasi AI di berbagai skenario layanan keuangan. Cathay FHC membangun fondasi teknologi yang dapat dikembangkan untuk mendukung optimalisasi proses internal, peningkatan layanan nasabah, pemahaman pengetahuan keuangan, hingga tata kelola model AI. Di tengah regulasi yang semakin ketat, tuntutan tata kelola data, serta ekspektasi nasabah yang cepat berubah, Cathay FHC menegaskan komitmennya untuk terus mengembangkan riset AI yang aman, tangguh, dan sesuai dengan ketentuan yang berlaku.
Ke depan, Cathay FHC akan terus mengeksplorasi teknologi klasifikasi berbasis konteks panjang, pemahaman dokumen keuangan tingkat lanjut, serta penerapan AI lintas-skenario. Dengan mengembangkan metode pelatihan dan implementasi model yang dirancang khusus untuk sektor keuangan, Cathay FHC ingin mempercepat inovasi dan menghadirkan layanan keuangan yang lebih cerdas, efisien, serta berorientasi pada kebutuhan nasabah.
Cathay Financial Holdings presented validation results for open-source small language models (SLMs) at NVIDIA GTC Taipei 2026, demonstrating how fine-tuned SLMs can support customer intent classification while enhancing AI’s understanding of local financial service contexts, domain-specific terminology, and ambiguous customer queries. (Source: Cathay Financial Holdings)
