Jonathan Hall, pengawas independen undang-undang terorisme dan ancaman negara Inggris yang akan mengakhiri masa jabatannya, memperingatkan risiko penggunaan kecerdasan buatan dari Tiongkok. Ia menilai bot AI dapat digunakan untuk membentuk ulang catatan sejarah dan berpotensi mengganggu fondasi demokrasi Barat.
Peringatan itu muncul setelah Hall menguji Qwen3, platform AI global yang dikembangkan Alibaba. Dalam pengujian tersebut, sistem itu disebut secara sistematis menyangkal terjadinya pembantaian demonstran di Lapangan Tiananmen pada 1989.
Hall menilai persoalan tersebut tidak hanya berkaitan dengan kualitas jawaban sebuah chatbot. Ia menyoroti dampaknya terhadap integritas informasi, keamanan nasional, serta kemampuan publik memperoleh keterangan sejarah yang utuh.
Perbedaan Proses Internal dan Jawaban Akhir
Saat ditanya mengenai peristiwa di Lapangan Tiananmen pada 1989, Qwen3 awalnya menjawab bahwa tidak ada peristiwa penting yang terjadi. Namun, Hall melihat anomali pada jendela proses berpikir atau thinking process dari model tersebut.
Dalam proses internalnya, AI itu sempat mengenali pengerahan Tentara Pembebasan Rakyat atau PLA di alun-alun tersebut pada Juni 1989. Informasi itu kemudian tidak muncul dalam jawaban akhir yang ditampilkan kepada pengguna.
Ketika pertanyaan diajukan lebih lanjut, sistem tersebut memberikan respons yang menyerupai penarikan pernyataan. “Saya sekarang menarik kembali (pernyataan),” katanya, sebelum menegaskan tidak ada pengerahan militer berdasarkan catatan pemerintah Tiongkok.
Hall menggambarkan pengalaman itu sebagai bentuk sensor yang sangat kuat terhadap catatan sejarah. “Tidak ada yang benar-benar mempersiapkan Anda menghadapi kekuatan kasar sensor terhadap catatan sejarah. Ini pencekikan kebebasan secara perlahan,” kata Hall.
Penggunaan di Lingkungan Pemerintahan
Kekhawatiran Hall juga terkait penggunaan Qwen3 oleh Kementerian Kehakiman Inggris untuk menganalisis catatan kriminal. Penggunaan itu disebut sebagai pemakaian sistem AI Tiongkok pertama yang diketahui di lingkungan Whitehall.
Situasi tersebut memunculkan pertanyaan mengenai kemungkinan masuknya propaganda dan risiko pengawasan melalui teknologi AI. Hall menempatkan isu ini dalam konteks ancaman informasi jangka panjang, bukan semata persoalan teknis dalam pengolahan data.
Risiko Model Open-Weight
Qwen3 termasuk model open-weight yang dapat diunduh dan dijalankan tanpa koneksi internet. Berbeda dengan sejumlah AI Amerika Serikat seperti OpenAI, karakteristik itu dinilai membuat pemantauan dan pengendalian penggunaan model menjadi lebih sulit.
Ketersediaan model secara gratis juga dipandang dapat memperluas pemakaiannya di sekolah dan universitas, terutama di negara-negara miskin. Hall memperingatkan bahwa kondisi itu dapat membuat versi sejarah Beijing menjadi narasi dominan bagi miliaran orang.
Selain isu Tiananmen, sistem tersebut disebut menolak membahas Taiwan, Muslim Uyghur, serta karakter Winnie the Pooh yang kerap digunakan untuk menyindir Presiden Xi Jinping. Pembatasan pada topik-topik sensitif itu memperkuat kekhawatiran mengenai arah penyaringan informasi dalam AI Tiongkok.
Hall, yang menjabat selama tujuh tahun, menilai perkembangan AI dari Tiongkok berpotensi menjadi ancaman eksistensial bagi demokrasi, kebenaran, dan kebebasan berbicara. Menurutnya, ancaman tersebut mungkin tidak terlihat seketika seperti plot pembunuhan, tetapi dapat bekerja dalam jangka panjang dengan memengaruhi pemahaman publik atas fakta sejarah.
Alibaba, perusahaan teknologi yang mengembangkan Qwen3, menyatakan melalui juru bicara bahwa pihaknya akan melakukan pengecekan internal atas temuan itu. Perusahaan tersebut disebut bernilai Rp5.000 triliun atau sekitar £250 miliar.
