Status Penerapan Model Besar di Industri Keuangan: Dari Tingkat Strategis ke Implementasi Praktis

Kehadiran ChatGPT telah menimbulkan dampak besar di industri keuangan. Awalnya, industri yang berfokus pada teknologi ini merasa cemas, khawatir akan tertinggal oleh gelombang zaman. Emosi ini bahkan menyebar ke beberapa tempat yang tidak terduga. Diketahui, pada bulan Mei tahun ini, ada yang mendengar para praktisi keuangan berdiskusi tentang model besar di sebuah kuil di Dali.

Namun, seiring berjalannya waktu, kecemasan ini perlahan mereda, dan pemikiran orang menjadi lebih jelas dan rasional. CTO Divisi Perbankan Softcom, Sun Hongjun, menggambarkan proses evolusi sikap industri keuangan terhadap model besar: kecemasan umum pada bulan 2-3; pembentukan tim untuk penelitian pada bulan 4-5; beberapa bulan setelahnya menghadapi kesulitan dalam mencari arah dan penerapan, mulai menjadi rasional; sekarang fokus pada tolok ukur, mencoba memverifikasi skenario aplikasi yang telah diuji.

Saat ini, banyak lembaga keuangan mulai memberikan perhatian strategis terhadap model besar. Menurut statistik yang tidak lengkap, setidaknya ada 11 bank di perusahaan yang terdaftar di pasar A yang secara jelas menyatakan sedang menjajaki aplikasi model besar dalam laporan setengah tahunan terbaru mereka, termasuk Bank Industrial dan Perdagangan, Bank Pertanian, Bank Cina, dan Bank Transportasi. Dari tindakan terbaru, lembaga-lembaga ini sedang melakukan pemikiran dan perencanaan jalur yang lebih jelas dari sisi strategi dan desain tingkat atas.

Dari semangat yang tinggi ke kembalinya rasionalitas

Dibandingkan dengan beberapa bulan yang lalu, pemahaman klien keuangan tentang model besar telah meningkat secara signifikan. Pada awal tahun ketika ChatGPT baru muncul, meskipun antusiasme tinggi, pemahaman tentang esensi dan cara aplikasi model besar masih terbatas.

Pada tahap ini, beberapa bank besar mengambil langkah pertama dan mulai melakukan berbagai promosi "menyusuri ketenaran". Misalnya, pada bulan Maret, sebuah bank meluncurkan aplikasi model besar mirip ChatGPT, tetapi penilaian di industri bervariasi. Beberapa orang berpendapat bahwa aplikasi ini terlalu menekankan fungsi obrolan dan mengabaikan kemampuan generatif yang lebih penting.

Seiring dengan banyak perusahaan teknologi domestik yang meluncurkan model besar, beberapa departemen teknologi dari institusi keuangan terkemuka mulai aktif berdiskusi dengan perusahaan-perusahaan ini mengenai pembangunan model besar. Mereka umumnya berharap dapat mengembangkan model besar secara mandiri, menanyakan tentang pembangunan dataset, konfigurasi server, dan metode pelatihan. Sebuah perusahaan fintech di bawah bank tertentu bahkan mengusulkan harapan untuk dapat mengeluarkan teknologi kepada rekan-rekan di industri setelah penyelesaian.

Setelah bulan Mei, situasi mulai berubah. Terbatasi oleh kekurangan sumber daya komputasi dan biaya yang tinggi, banyak lembaga keuangan beralih dari sekadar ingin membangun sendiri menjadi lebih fokus pada nilai aplikasi. Sekarang setiap lembaga keuangan sedang memperhatikan penerapan dan hasil model besar dari lembaga lain.

Perusahaan dengan berbagai skala juga muncul dengan dua jalur. Lembaga keuangan besar yang memiliki data keuangan dan skenario aplikasi dalam jumlah besar dapat memperkenalkan model besar dasar terdepan, membangun model besar perusahaan sendiri, sambil mengembangkan model tugas di bidang profesional melalui metode fine-tuning untuk dengan cepat memberdayakan bisnis. Sementara itu, lembaga keuangan kecil dan menengah dapat mempertimbangkan ROI, secara on-demand memperkenalkan berbagai API model besar dari cloud publik atau layanan penyebaran privat, untuk memenuhi kebutuhan secara langsung.

Namun, karena industri keuangan memiliki tuntutan yang tinggi terhadap kepatuhan data, keamanan, dan kepercayaan, beberapa orang dalam industri percaya bahwa kemajuan penerapan model besar di sektor ini sebenarnya sedikit lebih lambat dari yang diperkirakan pada awal tahun. Sun Hongjun dari Softstone Power menyatakan bahwa mereka awalnya memperkirakan bahwa industri keuangan akan menjadi yang pertama menggunakan model besar secara besar-besaran, tetapi kenyataannya adalah bahwa kemajuan aplikasi di industri keuangan tidak secepat di industri hukum, perekrutan, dan lain-lain.

Beberapa lembaga keuangan telah mulai mencari cara untuk mengatasi berbagai batasan dalam penerapan model besar.

Dalam hal daya komputasi, beberapa solusi telah muncul di industri:

1. Membangun kekuatan komputasi sendiri secara langsung, biayanya lebih tinggi tetapi keamanannya kuat, cocok untuk lembaga keuangan besar yang ingin membangun model besar industri atau perusahaan. Diketahui bahwa salah satu bank milik negara besar baru-baru ini membeli sejumlah chip H800 untuk membangun kekuatan komputasi.

2. Penerapan campuran kekuatan komputasi, dengan memastikan bahwa data sensitif tidak bocor, menggunakan antarmuka layanan model besar di cloud publik, sambil memproses data lokal melalui penerapan privat. Metode ini memiliki biaya yang lebih rendah, cocok untuk lembaga keuangan kecil dan menengah yang memiliki kekuatan modal yang lebih lemah dan aplikasi sesuai kebutuhan.

3. Untuk menghadapi masalah kekurangan dan harga tinggi GPU yang dihadapi oleh institusi kecil dan menengah, pihak regulator sedang menjajaki kemungkinan membangun infrastruktur model besar bersama untuk industri sekuritas, mengonsolidasikan daya komputasi dan sumber daya model besar umum, sehingga institusi keuangan kecil dan menengah juga dapat menggunakan layanan model besar, menghindari ketertinggalan teknologi.

Selain kekuatan komputasi, dalam setengah tahun terakhir banyak lembaga keuangan juga memperkuat tata kelola data. Seorang eksekutif dari penyedia layanan awan mengatakan, selain bank-bank besar, semakin banyak lembaga keuangan menengah juga mulai membangun platform data dan sistem tata kelola data. Dia percaya, sistem tata kelola data yang lengkap dan platform teknologi data lake akan menjadi arah penting untuk pembangunan TI lembaga keuangan di masa depan.

Beberapa bank sedang menyelesaikan masalah data melalui model besar yang menggabungkan MLOps. Misalnya, sebuah bank besar telah membangun sistem data siklus tertutup model besar dengan mode MLOps, mencapai otomatisasi proses dan manajemen serta pemrosesan data heterogen multi-sumber yang efisien, dan saat ini telah membangun kumpulan data pelatihan berkualitas tinggi sebesar 2,6TB.

Masuk dari skenario luar

Selama lebih dari setengah tahun terakhir, baik penyedia layanan model besar maupun lembaga keuangan telah aktif mencari skenario aplikasi. Kantor pintar, pengembangan cerdas, pemasaran cerdas, layanan pelanggan cerdas, penelitian dan investasi cerdas, pengendalian risiko cerdas, analisis kebutuhan, dan bidang lainnya telah menjadi fokus eksplorasi.

Seperti yang dikatakan oleh seorang eksekutif dari perusahaan teknologi finansial, "Setiap langkah kunci dalam rantai bisnis keuangan, layak untuk dirancang ulang menggunakan teknologi model besar." Perusahaan tersebut baru-baru ini meluncurkan model besar yang ditujukan untuk industri keuangan, dan bekerja sama dengan mitra untuk mengembangkan produk model besar yang ditujukan untuk industri keuangan, bertujuan untuk menciptakan asisten bisnis AI yang komprehensif bagi penasihat keuangan, agen asuransi, riset investasi, pemasaran keuangan, dan klaim asuransi serta para profesional keuangan lainnya.

Setiap lembaga keuangan memiliki banyak gagasan tentang penerapan model besar. Sebuah bank besar menyatakan telah meluncurkan aplikasi di lebih dari 20 skenario, bank lainnya mengatakan sedang melakukan uji coba di lebih dari 30 skenario, dan ada perusahaan sekuritas yang sedang mengeksplorasi penggabungan model besar dengan platform manusia digital virtual.

Namun, dalam proses implementasi yang sebenarnya, konsensus umum adalah mengutamakan aplikasi internal sebelum mempromosikan secara eksternal. Bagaimanapun, pada tahap saat ini, teknologi model besar masih belum matang, terdapat masalah seperti halusinasi, dan industri keuangan adalah bidang yang sangat diatur, aman, dan dapat dipercaya.

Seorang kepala teknis di bank besar berpendapat bahwa dalam jangka pendek tidak disarankan untuk langsung menggunakan model besar untuk pelanggan. Institusi keuangan harus mengutamakan penerapan model besar dalam analisis dan pemahaman teks serta gambar keuangan dalam skenario yang intensif secara intelektual, untuk mewujudkan kolaborasi manusia-mesin dalam bentuk asisten, meningkatkan efisiensi kerja staf.

Saat ini, asisten kode telah diterapkan di beberapa lembaga keuangan. Misalnya, sebuah bank telah membangun sistem pengembangan cerdas berbasis model besar, di mana jumlah kode yang dihasilkan oleh asisten pengkodean mencapai 40% dari total jumlah kode. Di bidang asuransi, sebuah perusahaan telah mengembangkan plugin pemrograman bantu berbasis model besar, yang langsung diintegrasikan ke dalam alat pengembangan internal.

Di bidang perkantoran cerdas juga ada banyak kasus nyata. Sistem tanya jawab cabang yang diluncurkan oleh penyedia model besar berdasarkan model keuangannya, setelah diluncurkan di suatu bank, telah diperluas ke ratusan cabang, dengan tingkat adopsi jawaban melebihi 85%. Solusi ini juga dengan cepat direplikasi ke beberapa bank dan lembaga keuangan lainnya.

Namun, para ahli industri memperkirakan bahwa skenario yang telah diterapkan secara luas ini sebenarnya belum menjadi aplikasi inti bagi lembaga keuangan, dan model besar masih memiliki jarak tertentu sebelum benar-benar mendalami aspek bisnis di industri keuangan.

Seorang eksekutif dari penyedia layanan TI menyatakan bahwa pemasaran, manajemen risiko, dan kepatuhan adalah area di mana model besar dapat membawa perubahan dan juga merupakan bidang kebutuhan pelanggan keuangan, tetapi saat ini pekerjaan ini masih tergantung pada peningkatan kemampuan penyedia model besar.

Ada orang dalam industri yang memprediksi, sebelum akhir tahun ini akan ada sekelompok proyek pembangunan atau informasi tender yang benar-benar menerapkan model besar dalam skenario bisnis inti lembaga keuangan.

Sebelum ini, beberapa perubahan di tingkat desain tingkat atas sedang berlangsung. Beberapa ahli menilai bahwa di masa depan seluruh sistem cerdas dan digital akan dibangun kembali di atas dasar model besar. Ini mengharuskan industri keuangan untuk merestrukturisasi sistem dalam proses penerapan model besar, sekaligus tidak mengabaikan nilai model kecil tradisional, dan seharusnya memungkinkan kolaborasi antara model besar dan model kecil.

Tren ini telah diimplementasikan secara luas di industri keuangan. Saat ini, lembaga keuangan sedang melakukan percobaan dengan model besar, yang umumnya mengambil pola berlapis. Berbeda dengan model silo di mana satu platform dibangun untuk satu skenario di masa lalu, model besar memberikan kesempatan bagi lembaga keuangan untuk merencanakan sistem secara keseluruhan dari awal dengan cara yang lebih ilmiah.

Saat ini, sudah ada beberapa lembaga keuangan terkemuka yang membangun kerangka sistem berjenjang yang mencakup lapisan infrastruktur, lapisan model, lapisan layanan model besar, lapisan aplikasi, dan lain-lain berdasarkan model besar. Kerangka ini umumnya memiliki dua karakteristik: pertama, model besar memainkan peran sentral, memanggil model tradisional sebagai keterampilan; kedua, lapisan model besar menerapkan strategi multi-model, bersaing di dalam untuk memilih efek terbaik.

Sebenarnya, bukan hanya lembaga keuangan, dalam kondisi yang belum pasti saat ini, beberapa penyedia aplikasi model besar juga mengadopsi strategi multi-model untuk mengutamakan efektivitas layanan. Sebuah penyedia layanan TI mengungkapkan bahwa lapisan model dasar mereka menggabungkan banyak model bahasa besar, yang akan dirakit dan dipilih berdasarkan jawaban dari setiap model besar sebelum disediakan kepada pengguna.

Kekurangan talenta masih besar

Aplikasi model besar telah mulai membawa beberapa tantangan dan perubahan pada struktur personel di industri keuangan.

Seorang profesional dari perusahaan teknologi finansial menyatakan bahwa sejak ChatGPT muncul, perusahaannya telah memecat lebih dari 300 analis data besar dari awal tahun hingga akhir Mei. Hal ini menyebabkan kekhawatiran tentang perkembangan kariernya di masa depan.

Seorang ahli keuangan senior dari salah satu bank besar juga berbagi tentang efek penggantian manusia oleh model besar. Bank tersebut sebelumnya setiap pagi memiliki magang yang merangkum berbagai informasi untuk departemen penelitian dan investasi, tetapi sekarang pekerjaan ini bisa dilakukan oleh model besar.

Namun, beberapa bank tidak ingin model besar menyebabkan pengurangan karyawan. Misalnya, sebuah bank besar yang memiliki 200.000 karyawan di cabang menyatakan dengan jelas bahwa mereka tidak ingin karyawan digantikan oleh model besar, melainkan berharap model besar dapat membawa peluang baru, meningkatkan kualitas layanan dan efisiensi kerja karyawan, sambil membebaskan sebagian karyawan untuk melakukan pekerjaan yang lebih bernilai.

Di satu sisi, ini mempertimbangkan stabilitas personel dan struktur, di sisi lain juga karena banyak posisi masih memiliki kekurangan tenaga kerja. Seorang eksekutif dari penyedia layanan TI mengatakan bahwa bank-bank besar memiliki banyak pekerjaan yang tidak dapat diselesaikan, dan beberapa permintaan TI bahkan dijadwalkan hingga akhir tahun depan. Mereka berharap model besar dapat membantu karyawan meningkatkan efisiensi dan kecepatan, bukan menyebabkan pengurangan staf.

Yang lebih penting, perkembangan pesat model besar menyebabkan pasokan talenta yang langka sulit untuk memenuhi lonjakan permintaan dalam waktu singkat. Ini seperti saat iPhone pertama kali muncul, sulit untuk menemukan programmer iOS jika ingin mengembangkan aplikasi.

Kepala penelitian dan pengembangan dari sebuah bank besar merangkum 6 tantangan yang dihadapi industri keuangan dalam menerapkan kemampuan model besar ke dalam proses bisnis inti, salah satunya adalah kekurangan tenaga kerja. Karyawan baru dan lulusan yang baru direkrut memiliki proporsi yang tinggi dalam mempelajari bidang AI, tetapi jumlah talenta yang memahami model besar sangat sedikit.

Seorang eksekutif dari penyedia layanan TI juga memiliki pengalaman serupa, baru-baru ini menerima permintaan dukungan tenaga kerja dari seorang klien bank. Bank tersebut mengalami kekurangan tenaga kerja dalam pelatihan model karena ada anggota tim model yang cuti mendadak, sehingga terpaksa mencari dukungan dari luar.

Saat ini, permintaan bakat untuk menerapkan model besar secara langsung relatif sederhana, terutama membutuhkan orang yang dapat mengajukan pertanyaan. Namun, jika ingin membangun model besar untuk industri atau perusahaan sendiri, institusi keuangan memerlukan tim teknis model besar vertikal yang terampil.

Seorang eksekutif dari penyedia layanan cloud mengungkapkan bahwa terdapat kekurangan besar dalam bakat di bidang model AI besar, dan lembaga-lembaga terkemuka saat ini sedang merekrut talenta terkait AI, seperti doktor algoritma. Ini karena meskipun pelanggan di sektor keuangan dapat memperoleh dukungan teknis dari penyedia model besar, mereka adalah pihak pengguna akhir dan pengendali inovasi, yang memerlukan akumulasi bakat tertentu untuk mendukung pembangunan platform AI besar, perencanaan berbagai aplikasi AI, serta bekerja sama dengan penyedia model besar dalam proses pemodelan, penyetelan, dan penghalusan, untuk terus memperluas jangkauan dan efektivitas aplikasi model AI.

Beberapa perusahaan telah mengambil tindakan. Sebuah perusahaan teknologi bekerja sama dengan laboratorium bank untuk merumuskan praktik transformasi personel dalam aplikasi model besar di perusahaan, merancang serangkaian kursus pelatihan, seperti penyempurnaan Prompt, fine-tuning, operasi model besar, dan bekerja sama dengan beberapa departemen untuk membentuk kelompok proyek bersama guna mendorong peningkatan kemampuan personel perusahaan.

Para ahli di industri menunjukkan bahwa model besar saat ini masih belum cukup matang, dan perlu upaya bersama dari para ahli di bidangnya untuk mengembangkan produk yang matang. Model besar dari perusahaan besar akan memberikan peningkatan tertentu terhadap talenta tradisional yang ada di perusahaan, tetapi tidak akan membawa perubahan paradigma. Perubahan paradigma yang sebenarnya memerlukan adanya tim di dalam sistem keuangan yang secara mendalam mengintegrasikan kebutuhan internal dan melakukan inovasi besar.

Perlu dicatat bahwa, dalam proses ini, struktur personel di lembaga keuangan juga akan mengalami penyesuaian dan perubahan. Pengembang yang menguasai keterampilan penggunaan model besar akan lebih mudah untuk bertahan di lingkungan ini.