Akankah negara-negara memimpin dalam regulasi AI?

Tahun 2024 adalah tahun yang sibuk bagi anggota parlemen (dan pelobi) prihatin terhadap AI — terutama di California, tempat Gavin Newsom menandatangani kontrak 18 undang-undang AI baru sementara juga memveto undang-undang AI tingkat tinggi.

Dan pada tahun 2025 akan terjadi banyak aktivitas, terutama di tingkat negara bagian, menurut Tandai Weatherford. Weatherford, dalam kata-katanya, telah melihat “pembuatan kebijakan dan perundang-undangan” baik di tingkat negara bagian maupun federal; dia pernah menjabat sebagai Chief Information Security Officer untuk negara bagian California dan Colorado, serta Wakil Wakil Menteri Keamanan Siber di bawah Presiden Barack Obama.

Weatherford mengatakan bahwa dalam beberapa tahun terakhir, dia memegang jabatan yang berbeda-beda, namun perannya biasanya berkisar pada mencari tahu “bagaimana kita meningkatkan tingkat diskusi seputar keamanan dan privasi sehingga kita dapat membantu mempengaruhi bagaimana kebijakan dibuat.” Musim gugur yang lalu, dia bergabung dengan perusahaan data sintetis Gretel sebagai wakil presiden kebijakan dan standar.

Oleh karena itu, saya sangat bersemangat untuk berbicara dengannya tentang apa yang menurutnya merupakan hal yang perlu dilakukan selanjutnya dalam regulasi AI dan mengapa menurutnya negara akan memimpin hal tersebut.

Wawancara ini telah diedit agar panjang dan jelasnya.

Tujuan untuk meningkatkan tingkat percakapan mungkin akan diterima oleh banyak orang di industri teknologi, yang mungkin pernah menonton dengar pendapat kongres tentang media sosial atau topik terkait di masa lalu dan memegang kepala mereka, melihat apa yang diketahui dan tidak diketahui oleh beberapa pejabat terpilih. . Seberapa optimiskah Anda bahwa pembuat undang-undang dapat memperoleh konteks yang mereka perlukan untuk mengambil keputusan yang tepat seputar peraturan?

Yah, saya sangat yakin mereka bisa sampai di sana. Yang membuat saya kurang yakin adalah jadwal untuk mencapainya. Anda tahu, AI berubah setiap hari. Sungguh mengejutkan bagi saya bahwa isu-isu yang kita bicarakan sebulan yang lalu telah berkembang menjadi hal lain. Jadi saya yakin bahwa pemerintah akan mencapai tujuan tersebut, namun mereka memerlukan orang-orang untuk membantu membimbing mereka, mengatur staf, dan mendidik mereka.

Awal pekan ini, Dewan Perwakilan Rakyat AS memiliki satuan tugas yang mereka dirikan sekitar setahun yang lalu, satuan tugas kecerdasan buatan, dan mereka merilis laporan mereka — yah, mereka membutuhkan waktu satu tahun untuk melakukan ini. Ini adalah laporan 230 halaman; Aku sedang mengarunginya sekarang. [Weatherford and I first spoke in December.]

[When it comes to] Dalam pembuatan kebijakan dan undang-undang, ada dua organisasi berbeda yang sangat partisan, dan mereka mencoba untuk bersatu dan menciptakan sesuatu yang membuat semua orang bahagia, yang berarti segalanya menjadi lebih mudah. Hal ini memerlukan waktu yang lama, dan sekarang, ketika kita memasuki pemerintahan yang baru, semuanya menjadi tergantung pada seberapa besar perhatian yang akan diperoleh atau tidak dari hal-hal tertentu.

Sepertinya sudut pandang Anda adalah bahwa kita mungkin melihat lebih banyak tindakan peraturan di tingkat negara bagian pada tahun 2025 dibandingkan di tingkat federal. Apakah itu benar?

Saya sangat percaya itu. Maksudku, di California, menurutku Gubernur [Gavin] Newsom, dalam beberapa bulan terakhir, menandatangani 12 undang-undang yang berkaitan dengan AI. [Again, it’s 18 by TechCrunch’s count.)] Dia memveto rancangan undang-undang besar tentang AI, yang akan mengharuskan perusahaan AI untuk berinvestasi lebih banyak dalam pengujian dan memperlambat segalanya.

Faktanya, saya memberikan ceramah di Sacramento kemarin pada California Cybersecurity Education Summit, dan saya berbicara sedikit tentang undang-undang yang berlaku di seluruh AS, di semua negara bagian, dan ini seperti lebih dari 400 undang-undang berbeda di seluruh Amerika Serikat. tingkat negara bagian baru diperkenalkan dalam 12 bulan terakhir. Jadi ada banyak hal yang terjadi di sana.

Saya pikir salah satu kekhawatiran terbesar, kekhawatiran besar dalam teknologi secara umum, dan keamanan siber, namun saat ini kita melihatnya dari sisi kecerdasan buatan, adalah adanya persyaratan harmonisasi. Harmonisasi adalah kata itu [the Department of Homeland Security] dan Harry Coker di [Biden] Gedung Putih sudah terbiasa melakukannya [refer to]: Bagaimana caranya kita menyelaraskan semua peraturan dan perundang-undangan ini seputar hal-hal yang berbeda tersebut agar kita tidak mengalami hal tersebut [situation] setiap orang melakukan hal mereka sendiri, yang membuat perusahaan menjadi gila. Karena kemudian mereka harus mencari tahu, bagaimana mereka mematuhi semua undang-undang dan peraturan yang berbeda di berbagai negara bagian?

Saya pikir akan ada lebih banyak kegiatan di tingkat negara bagian, dan mudah-mudahan kita bisa sedikit menyelaraskannya sehingga tidak ada banyak peraturan yang harus dipatuhi oleh perusahaan.

Saya belum pernah mendengar istilah tersebut, namun itu akan menjadi pertanyaan saya berikutnya: Saya membayangkan sebagian besar orang akan setuju bahwa harmonisasi adalah tujuan yang baik, namun apakah ada mekanisme yang dapat mewujudkan hal tersebut? Insentif apa yang dimiliki negara-negara bagian untuk benar-benar memastikan undang-undang dan peraturan mereka selaras satu sama lain?

Sejujurnya, tidak ada banyak insentif untuk menyelaraskan peraturan, kecuali bahwa saya dapat melihat bahasa yang sama bermunculan di berbagai negara bagian – yang bagi saya, menunjukkan bahwa mereka semua saling memperhatikan apa yang dilakukan masing-masing negara bagian.

Namun dari sudut pandang, “Mari kita mengambil pendekatan rencana strategis di antara semua negara bagian,” hal itu tidak akan terjadi, saya tidak punya harapan besar untuk hal itu terjadi.

Apakah menurut Anda negara bagian lain mungkin akan mengikuti jejak California dalam hal pendekatan umum?

Banyak orang tidak suka mendengar hal ini, namun California memang memaksakan diri [in tech legislation] Hal ini membantu masyarakat untuk ikut serta, karena mereka melakukan semua pekerjaan berat, mereka melakukan banyak pekerjaan untuk melakukan penelitian yang mencakup beberapa undang-undang tersebut.

12 RUU yang baru saja disahkan oleh Gubernur Newsom tersebar luas, mulai dari pornografi hingga penggunaan data untuk melatih situs web hingga segala macam hal. Mereka cukup komprehensif dalam mencondongkan tubuh ke depan di sana.

Meskipun pemahaman saya adalah bahwa mereka mengeluarkan langkah-langkah yang lebih tepat sasaran dan spesifik dan kemudian peraturan yang lebih besar yang mendapat banyak perhatian, Gubernur Newsom pada akhirnya memvetonya.

Saya bisa melihat kedua sisinya. Ada komponen privasi yang pada awalnya mendorong hal ini, namun kemudian Anda harus mempertimbangkan biaya untuk melakukan hal-hal ini, dan persyaratan yang dikenakan pada perusahaan kecerdasan buatan untuk menjadi inovatif. Jadi ada keseimbangan di sana.

Saya berharap sepenuhnya [in 2025] bahwa California akan menerapkan peraturan yang sedikit lebih ketat daripada yang mereka lakukan [in 2024].

Dan menurut Anda, di tingkat federal, pasti ada ketertarikan, seperti laporan DPR yang Anda sebutkan, namun hal tersebut belum tentu akan menjadi prioritas besar atau kita akan melihat undang-undang besar tahun depan?

Ya, saya tidak tahu. Tergantung seberapa besar penekanannya [new] Kongres ikut serta. Saya pikir kita akan lihat nanti. Maksud saya, Anda membaca apa yang saya baca, dan apa yang saya baca adalah bahwa akan ada penekanan pada pengurangan regulasi. Namun teknologi dalam banyak hal, tentu saja seputar privasi dan keamanan siber, ini merupakan masalah bipartisan, dan baik untuk semua orang.

Saya bukan penggemar berat peraturan, ada banyak duplikasi dan banyak sumber daya terbuang yang terjadi dengan begitu banyak undang-undang yang berbeda. Namun pada saat yang sama, ketika keselamatan dan keamanan masyarakat dipertaruhkan, seperti yang terjadi pada AI, saya pikir pasti ada ruang untuk regulasi lebih lanjut.

Anda menyebutkan bahwa ini adalah masalah bipartisan. Menurut saya, ketika terjadi perpecahan, hal itu tidak selalu bisa diprediksi – bukan hanya suara Partai Republik versus semua suara Demokrat.

Itu poin yang bagus. Geografi penting, baik kita mengakuinya atau tidak, dan itulah sebabnya tempat-tempat seperti California benar-benar condong ke depan dalam beberapa undang-undang mereka dibandingkan dengan beberapa negara bagian lain.

Tentu saja, ini adalah area di mana Gretel bekerja, tetapi sepertinya Anda yakin, atau perusahaan tersebut yakin, bahwa dengan semakin banyaknya peraturan, hal ini akan mendorong industri ke arah lebih banyak data sintetis.

Mungkin. Salah satu alasan saya di sini adalah, saya percaya data sintetis adalah masa depan AI. Tanpa data, tidak ada AI, dan kualitas data menjadi semakin menjadi masalah, karena kumpulan data — akan habis atau menyusut. Akan ada semakin banyak kebutuhan akan data sintetis berkualitas tinggi yang menjamin privasi dan menghilangkan bias serta menangani semua masalah non-teknis dan ringan semacam itu. Kami percaya bahwa data sintetis adalah jawabannya. Faktanya, saya 100% yakin akan hal itu.

Ini bukan tentang kebijakan secara langsung, meskipun menurut saya ini mempunyai implikasi terhadap kebijakan, namun saya ingin mendengar lebih banyak tentang apa yang membawa Anda pada sudut pandang tersebut. Saya pikir ada orang lain yang mengenali masalah yang Anda bicarakan, namun menganggap data sintetis berpotensi memperkuat bias atau masalah apa pun yang ada dalam data asli, dan bukannya menyelesaikan masalah.

Tentu, itulah bagian teknis dari percakapan tersebut. Pelanggan kami merasa kami telah memecahkan masalah tersebut, dan terdapat konsep flywheel dalam pembuatan data — bahwa jika Anda menghasilkan data yang buruk, maka data tersebut akan menjadi semakin buruk, namun tetap membangun kendali pada flywheel yang memvalidasi bahwa data tersebut tidak benar. menjadi lebih buruk, tetap sama atau menjadi lebih baik setiap kali lalat datang. Itulah masalah yang telah dipecahkan oleh Gretel.

Banyak tokoh yang bersekutu dengan Trump di Silicon Valley telah melakukan hal tersebut peringatan tentang “sensor” AI — berbagai bobot dan batasan yang diterapkan perusahaan pada konten yang dibuat oleh AI generatif. Apakah menurut Anda hal itu mungkin akan diatur? Haruskah begitu?

Mengenai kekhawatiran terhadap sensor AI, pemerintah memiliki sejumlah tindakan administratif yang dapat mereka lakukan, dan ketika ada risiko yang dirasakan masyarakat, hampir dapat dipastikan bahwa pemerintah akan mengambil tindakan.

Namun, menemukan titik temu antara moderasi konten yang wajar dan sensor yang ketat akan menjadi sebuah tantangan. Pemerintahan masa depan sudah cukup jelas menyatakan bahwa “lebih sedikit peraturan lebih baik” akan menjadi modus operandinya, baik melalui undang-undang formal atau perintah eksekutif, atau cara-cara yang kurang formal seperti [National Institute of Standards and Technology] pedoman dan kerangka kerja atau pernyataan bersama melalui koordinasi antarlembaga, kita dapat mengharapkan adanya panduan.

Saya ingin kembali ke pertanyaan tentang seperti apa regulasi AI yang baik. Ada perbedaan besar dalam cara orang berbicara tentang AI, seperti apakah AI akan menyelamatkan dunia atau menghancurkan dunia, apakah AI merupakan teknologi yang paling menakjubkan, atau terlalu dilebih-lebihkan. Ada begitu banyak perbedaan pendapat mengenai potensi teknologi dan risikonya. Bagaimana satu atau bahkan beberapa peraturan AI dapat mencakup hal tersebut?

Saya pikir kita harus sangat berhati-hati dalam mengelola penyebaran AI. Kita sudah melihat deepfake dan beberapa aspek yang sangat negatif. Sangat memprihatinkan melihat anak-anak muda yang sekarang duduk di bangku sekolah menengah atas dan bahkan lebih muda lagi melakukan pemalsuan mendalam yang membuat mereka bermasalah dengan hukum. Jadi menurut saya, ada ruang untuk undang-undang yang mengatur bagaimana orang dapat menggunakan kecerdasan buatan tanpa melanggar undang-undang yang sudah ada — kami membuat undang-undang baru yang memperkuat undang-undang saat ini, namun hanya memasukkan komponen AI ke dalamnya.

Saya pikir kita – kita yang pernah berkecimpung di bidang teknologi – semua harus ingat, banyak dari hal-hal yang kita anggap sebagai kebiasaan kita, ketika saya berbicara dengan anggota keluarga saya dan beberapa teman saya yang tidak terlibat dalam teknologi. teknologi, mereka benar-benar tidak mengerti apa yang sering saya bicarakan. Kami tidak ingin masyarakat merasa bahwa pemerintahan besar ini terlalu mengatur secara berlebihan, namun penting untuk membicarakan hal-hal ini dalam bahasa yang dapat dipahami oleh orang-orang non-teknologi.

Namun di sisi lain, Anda mungkin bisa mengetahuinya hanya dengan berbicara dengan saya, saya tidak yakin dengan masa depan AI. Saya melihat begitu banyak kebaikan datang. Saya pikir kita akan mengalami tahun-tahun yang penuh tantangan karena masyarakat akan semakin memahami dan memahami AI, dan undang-undang akan diterapkan di sana, agar masyarakat memahami apa arti AI bagi mereka dan memberikan batasan. di sekitar AI.