Panggil API AI Dalam Sistem Sendiri: Bila Borang Chat Tidak Cukup

Ramai peniaga sudah biasa membuka ChatGPT atau Gemini di telefon bila ada soalan. Cara itu cukup untuk urusan sekali-sekala. Tetapi apabila kerja yang sama berulang dua puluh kali sehari — menjawab mesej tetamu, membaca invois pembekal, meringkaskan aduan — menyalin dan menampal bertukar menjadi kerja penuh masa. Di sinilah API masuk. API bukan aplikasi baharu untuk dimuat turun; ia satu cara sistem anda bercakap terus dengan model AI tanpa manusia menaip.

Secara teknikal, API AI hanyalah satu alamat web yang menerima teks dan memulangkan teks. Anda hantar permintaan HTTP bersama kunci, model membalas dalam bentuk JSON. Google menyatakan setiap permintaan ke Gemini API mesti membawa header x-goog-api-key, dan kandungan dihantar dalam susunan contents, parts kemudian text ke endpoint generateContent. Untuk chatbot yang perlu jawapan muncul sedikit demi sedikit ada streamGenerateContent, dan untuk kerja pukal ada mod batch yang memberi potongan kos pada pelan berbayar.

Perbezaan besar dengan langganan chat ialah cara bayaran. API mengenakan bayaran ikut token, iaitu unit kecil yang mewakili perkataan, dan harga input berbeza daripada harga output. Kedua-duanya disebut bagi setiap satu juta token. Model kecil jauh lebih murah daripada model perdana; dalam senarai harga OpenAI, satu model kecil dicatat pada 15 sen dolar bagi setiap juta token input dan 60 sen bagi output, sementara model besar mencecah beberapa dolar untuk jumlah yang sama. Perlu diingat, teks arahan yang sama dihantar berulang kali juga dikira setiap kali.

Satu perkara yang selalu terlepas pandang ialah pelan percuma. Halaman harga Gemini Developer API menyatakan kandungan pada pelan percuma digunakan untuk memperbaiki produk mereka, manakala pelan berbayar tidak. Jika sistem anda menghantar nama, nombor telefon atau butiran tempahan tetamu, ini bukan butiran kecil. Pilih pelan yang sepadan dengan kerahsiaan data, atau buang data peribadi sebelum teks dihantar keluar.

Contoh paling dekat ialah sebuah homestay di Terengganu. Setiap hari pemiliknya menerima mesej yang berulang: berapa harga semalam, ada kekosongan hujung minggu ini, arah masuk dari stesen minyak berhampiran. Sistem tempahan sedia ada boleh menghantar setiap mesej ke API dan meminta jawapan dalam bentuk data, bukan perenggan: niat mesej, bahasa, dan satu draf balasan pendek. Pemilik membaca draf, betulkan satu dua perkataan, tekan hantar. Kerja menaip jatuh separuh, keputusan tetap pada manusia. Kedai runcit boleh guna cara sama untuk membaca resit pembekal, dan pejabat boleh guna untuk menukar nota mesyuarat kepada senarai tugasan.

Cara mula, langkah demi langkah:

1. Buat projek berasingan dalam Google AI Studio dan jana satu kunci API. Satu kunci untuk satu kerja; jika satu bocor, kerja lain tidak terjejas.
2. Uji dengan satu permintaan ringkas dari terminal. Simpan kunci dalam pemboleh ubah persekitaran supaya ia tidak tersimpan dalam sejarah arahan.
3. Jangan letak kunci dalam kod. Simpan dalam fail .env di luar folder laman web, masukkan fail itu ke .gitignore, dan guna kunci berbeza untuk ujian dan produksi. Panduan OWASP menekankan tiga perkara: jangan simpan rahsia dalam kod sumber, jangan log nilainya, dan putarkan kunci secara berkala.
4. Bina satu fungsi panggilan sahaja dalam sistem. Apabila harga atau model berubah, anda tukar satu tempat, bukan dua puluh fail.
5. Minta jawapan berstruktur. Gemini menyokong response_mime_type application/json, jadi model memulangkan data yang sistem boleh baca terus tanpa manusia mengupas ayat.
6. Letak had: masa tamat dua puluh hingga tiga puluh saat, cuba semula terhad, had kadar per pengguna, dan had perbelanjaan harian pada akaun. Tanpa had, satu gelung kod yang rosak boleh menghabiskan kredit dalam satu malam.
7. Semak manusia sebelum apa-apa dihantar kepada pelanggan. Model boleh yakin tetapi salah, terutama bila soalan melibatkan harga, tarikh atau undang-undang.
8. Rekod jumlah token setiap permintaan. Dalam seminggu anda akan tahu sama ada kosnya lima ringgit atau lima ratus ringgit sebulan.

Kau pembantu sebuah homestay di Terengganu. Baca mesej tetamu di bawah dan pulangkan JSON sahaja dengan tiga medan: niat (satu daripada: harga, tempahan, arah, kemudahan, keluhan, lain), bahasa (ms atau en), dan draf (satu balasan sopan, maksimum 40 patah perkataan, dalam bahasa yang sama dengan mesej). Jangan janjikan diskaun atau tarikh kosong; jika tetamu bertanya kekosongan, jawab bahawa pemilik akan sahkan. Jangan tambah medan lain. Mesej tetamu: {{mesej}}

Perhatikan tiga perkara dalam arahan itu: senarai nilai yang dibenarkan, larangan yang jelas, dan tempat letak mesej. Tiga perkara ini yang memisahkan sistem yang boleh dipercayai daripada sistem yang perlu dibetulkan setiap kali.

Satu lagi tabiat penting: jangan letak kunci API atau butiran dalaman di dalam arahan sistem, kerana apa-apa yang tertulis dalam arahan boleh dikeluarkan oleh pengguna.

Kesimpulannya, API AI bukan untuk syarikat besar sahaja. Ia satu alamat web dan satu kunci. Yang membezakan hasil baik dan buruk bukan model mahal, tetapi disiplin: kunci disimpan betul, output diminta dalam bentuk yang jelas, had kos ditetapkan, dan manusia kekal sebagai penyemak terakhir. Mulakan dengan satu tugasan kecil yang berulang setiap hari, ukur masa yang dijimatkan selama dua minggu, kemudian barulah fikirkan kerja kedua.