Jika Anda memiliki tips tentang pembuatan ulang pemerintah federal, Anda dapat menghubungi Matteo Wong dengan sinyal di @matteowong.52.
Fase baru Presiden dan upaya Efisiensi Pemerintah untuk berhemat dan membuat kembali layanan sipil sedang berlangsung. Idenya sederhana: Gunakan AI generatif untuk mengotomatisasi pekerjaan yang sebelumnya dilakukan oleh orang -orang.
Administrasi Trump sedang menguji chatbot baru dengan 1.500 karyawan federal di Administrasi Layanan Umum dan dapat merilisnya ke seluruh agen segera setelah Jumat ini – artinya dapat digunakan oleh lebih dari 10.000 pekerja yang bertanggung jawab atas lebih dari $ 100 miliar dalam kontrak dan layanan. Artikel ini sebagian didasarkan pada percakapan dengan beberapa karyawan GSA saat ini dan mantan dengan pengetahuan teknologi, yang semuanya meminta anonimitas untuk berbicara tentang informasi rahasia; Ini juga didasarkan pada dokumen GSA internal yang saya ulas, serta basis kode perangkat lunak, yang terlihat di GitHub.
Bot, yang dibingkai oleh kepemimpinan GSA sebagai pendorong produktivitas bagi pekerja federal, adalah bagian dari buku pedoman yang lebih luas dari Doge dan sekutunya. Berbicara tentang rencana GSA yang lebih luas, Thomas Shedd, seorang mantan insinyur Tesla yang baru-baru ini dipasang sebagai direktur Layanan Transformasi Teknologi (TTS), divisi TI GSA, mengatakan pada pertemuan semua tangan bulan lalu bahwa agensi tersebut mendorong untuk “strategi AI-First.” Dalam pertemuan itu, rekaman yang saya peroleh, Shedd mengatakan bahwa “Ketika kami mengurangi ukuran keseluruhan pemerintah federal, seperti yang Anda semua tahu, masih ada banyak program yang perlu ada, yang merupakan peluang besar bagi teknologi dan otomatisasi yang akan datang dengan kekuatan penuh.” Dia menyarankan bahwa “agen pengkodean” dapat disediakan di seluruh pemerintah – referensi untuk program AI yang dapat menulis dan mungkin menggunakan kode sebagai pengganti manusia. Selain itu, kata Shedd, AI dapat “menjalankan analisis pada kontrak,” dan perangkat lunak dapat digunakan untuk “mengotomatiskan” “fungsi keuangan” GSA.
Tim teknologi kecil dalam GSA bernama 10x mulai mengembangkan program selama masa jabatan Presiden Joe Biden, dan awalnya membayangkannya bukan sebagai alat produktivitas tetapi sebagai tempat pengujian AI: tempat untuk bereksperimen dengan model AI untuk penggunaan federal, mirip dengan bagaimana perusahaan swasta membuat alat AI yang dipesan lebih dahulu. Tetapi sekutu Doge telah mendorong untuk mempercepat pengembangan alat dan menyebarkannya sebagai chatbot kerja di tengah PHK massal (puluhan ribu pekerja federal telah mengundurkan diri atau diakhiri sejak Elon Musk memulai serangannya terhadap pemerintah). Peluncuran chatbot adalah yang pertama dicatat oleh KabelTetapi rincian lebih lanjut tentang peluncurannya yang lebih luas dan pengembangan perangkat lunak sebelumnya belum dilaporkan sebelum cerita ini.
Program – yang secara singkat disebut “GSAI” dan sekarang dikenal secara internal sebagai “Obrolan GSA” atau hanya “obrolan” —denik digambarkan sebagai alat untuk menyusun email, menulis kode, “dan banyak lagi!” Dalam email yang dikirim oleh Zach Whitman, kepala petugas AI GSA, kepada beberapa pengguna awal perangkat lunak. Panduan internal untuk karyawan federal mencatat bahwa GSA Chatbot “akan membantu Anda bekerja lebih efektif dan efisien.” Antarmuka bot, yang telah saya lihat, terlihat dan bertindak mirip dengan chatgpt atau program serupa: pengguna mengetik ke dalam kotak prompt, dan program merespons. GSA bermaksud untuk akhirnya meluncurkan AI ke lembaga pemerintah lainnya, berpotensi dengan nama “ai.gov.” Sistem saat ini memungkinkan pengguna untuk memilih dari model yang dilisensikan dari meta dan antropik, dan meskipun staf agensi saat ini tidak dapat mengunggah dokumen ke chatbot, mereka kemungkinan akan diizinkan di masa depan, menurut seorang karyawan GSA dengan pengetahuan proyek dan repositori kode chatbot. Program ini dapat digunakan untuk merencanakan proyek-proyek pemerintah skala besar, menginformasikan pengurangan yang berlaku, atau meminta repositori terpusat data federal, kata pekerja GSA kepada saya.
Juru bicara untuk Doge tidak menanggapi permintaan saya untuk memberikan komentar, dan kantor pers Gedung Putih mengarahkan saya ke GSA. Menanggapi daftar pertanyaan terperinci, Will Powell, sekretaris pers yang bertindak untuk GSA, menulis dalam pernyataan yang diemailkan bahwa “GSA saat ini melakukan peninjauan terhadap sumber daya TI yang tersedia, untuk memastikan staf kami dapat melakukan misi mereka dalam mendukung pembayar pajak Amerika,” dan bahwa agensi tersebut “melakukan pengujian yang komprehensif untuk memverifikasi efektivitas dan reliabilitas semua alat kami.
Pada titik ini, adalah umum untuk menggunakan AI untuk bekerja, dan chatbot GSA mungkin tidak memiliki efek dramatis pada operasi pemerintah. Tapi itu hanyalah satu contoh kecil dari upaya yang jauh lebih besar karena Doge terus memusnahkan Layanan Sipil. Di Departemen Pendidikan, Penasihat Doge dilaporkan Fed data sensitif tentang pengeluaran agensi ke dalam program AI untuk mengidentifikasi tempat untuk dipotong. Doge dilaporkan bermaksud menggunakan AI untuk membantu menentukan apakah karyawan di seluruh pemerintah harus mempertahankan pekerjaan mereka. Dalam pertemuan TTS lain akhir pekan lalu – rekaman yang saya ulas – Shedd mengatakan dia berharap bahwa divisi akan “setidaknya 50 persen lebih kecil” dalam beberapa minggu. ; Axios.
Bergegas ke peluncuran generatif-AI membawa risiko yang mapan. Model AI menunjukkan segala macam bias, perjuangan dengan akurasi faktual, mahal, dan memiliki pekerjaan batin yang buram; banyak yang bisa dan melakukan Salah bahkan ketika pendekatan yang lebih bertanggung jawab untuk teknologi diambil. GSA tampaknya sadar akan kenyataan ini ketika awalnya mulai mengerjakan chatbotnya musim panas lalu. Saat itulah 10x, tim teknologi kecil dalam GSA, mulai mengembangkan apa yang dikenal sebagai “10x AI Sandbox.” Jauh dari chatbot tujuan umum, kotak pasir dibayangkan sebagai lingkungan yang aman dan hemat biaya bagi karyawan federal untuk mengeksplorasi bagaimana AI dapat membantu pekerjaan mereka, sesuai dengan basis kode program di Github-misalnya, dengan menguji petunjuk dan merancang model khusus. “Prinsip di balik hal ini adalah menunjukkan kepada Anda bahwa AI sangat bagus untuk segalanya, mencoba mendorong Anda untuk menempelkan AI ke dalam setiap produk yang mungkin Anda identifikasi,” kata seorang insinyur 10x dalam video demo awal untuk kotak pasir, “melainkan untuk memberikan cara sederhana untuk berinteraksi dengan alat -alat ini dan untuk dengan cepat membuat prototipe.”
Tetapi orang yang ditunjuk Donald Trump didorong untuk dengan cepat merilis perangkat lunak sebagai asisten obrolan, tampaknya tanpa banyak memperhatikan aplikasi teknologi mana yang mungkin layak. AI bisa menjadi asisten yang berguna bagi karyawan federal dengan cara tertentu, karena chatbot GSA telah dibingkai, tetapi mengingat kecenderungan teknologi itu membentuk preseden hukumItu juga sangat tidak bisa. Seperti yang dikatakan seorang karyawan GSA yang baru saja pergi kepada saya, “Mereka ingin memusnahkan data kontrak ke AI untuk menganalisisnya untuk potensi penipuan, yang merupakan tujuan yang hebat. Dan juga, jika kita bisa melakukan itu, kita akan melakukannya. ” Menggunakan AI menciptakan “risiko yang sangat tinggi menandai positif palsu,” kata karyawan itu, “dan saya tidak melihat apa pun yang dianggap berfungsi sebagai cek yang menentang itu.” Halaman Bantuan untuk Pengguna Awal Catatan Alat Obrolan GSA Kekhawatiran termasuk “halusinasi” – istilah industri untuk AI dengan percaya diri memberikan informasi palsu sebagai benar— “tanggapan yang bias atau stereotip yang diabadikan,” dan “masalah privasi,” dan menginstruksikan karyawan untuk tidak memasukkan informasi yang dapat diidentifikasi secara pribadi atau informasi yang tidak diklasifikasi yang sensitif. Bagaimana peringatan itu akan ditegakkan tidak ditentukan.
Tentu saja, lembaga federal telah bereksperimen dengan AI generatif selama berbulan -bulan. Sebelum pemilihan November, misalnya, GSA telah memulai kontrak dengan Google untuk menguji bagaimana model AI “dapat meningkatkan produktivitas, kolaborasi, dan efisiensi,” menurut inventaris publik. Departemen Keamanan Dalam Negeri, Kesehatan dan Layanan Kemanusiaan, dan Urusan Veteran, serta banyak lembaga federal lainnya, adalah alat pengujian dari Openai, Google, Antropik, dan di tempat lain sebelum pelantikan. Beberapa jenis chatbot federal mungkin tidak bisa dihindari.
Tetapi tidak harus dalam bentuk ini. Biden mengambil pendekatan yang lebih hati -hati terhadap teknologi: dalam perintah eksekutif penting dan pedoman federal berikutnya, pemerintahan sebelumnya menekankan bahwa penggunaan AI pemerintah harus dikenakan pengujian menyeluruh, pagar ketat, dan transparansi publik, mengingat risiko dan kekurangan teknologi yang jelas. Trump, pada hari pertamanya di kantor, mencabut perintah itu, dengan Gedung Putih nanti pepatah bahwa itu telah memberlakukan “kontrol pemerintah yang berat dan tidak perlu.” Sekarang Doge dan administrasi Trump tampaknya bermaksud menggunakan seluruh pemerintah federal sebagai kotak pasir, dan lebih dari 340 juta orang Amerika yang mereka layani sebagai subjek uji potensial.
