Amanda Askell, Filsuf AI, Terpilih TIME100 AI 2024

Di dunia kecerdasan buatan, sering kali orang mengira hanya para programmer yang terlibat. Namun, Amanda Askell membuktikan bahwa pemikiran kritis juga sangat penting. Ia adalah seorang filsuf sekaligus peneliti AI yang kini bekerja di Anthropic, perusahaan yang mengembangkan chatbot Claude.

Askell memulai kariernya di bidang seni rupa dan filsafat. Ia menempuh pendidikan sarjana di Duncan of Jordanstone College of Art & Design, University of Dundee, antara 01 Januari 2005 sampai 31 Desember 2009. Setelah itu, ia melanjutkan studi pascasarjana di University of Oxford, meraih gelar BPhil in philosophy pada 01 Januari 2011.

Selanjutnya, Askell menempuh program doktoral di New York University (NYU) dari 01 Januari 2011 sampai 31 Desember 2018. Tesisnya berjudul “infinite ethics”, yang meneliti etika tak terhingga. Karya-karya filsafatnya menyoroti etika, teori pengambilan keputusan, dan epistemologi formal. Pengetahuan ini menjadi dasar bagi Askell ketika ia mulai membentuk perilaku sistem AI.

Karier profesional Askell dimulai di OpenAI, lembaga riset AI yang mengembangkan ChatGPT. Ia bergabung pada 01 Januari 2018 dan bekerja sampai 31 Desember 2021. Di sana, ia fokus pada keamanan AI (AI safety) dan penyelarasan (alignment). Bidang ini penting agar sistem AI canggih tetap berperilaku sesuai nilai manusia.

Salah satu publikasi penting Askell bersama rekan-rekannya adalah “A general language assistant as a laboratory for alignment” pada 01 Januari 2021. Penelitian ini mengeksplorasi cara membuat asisten AI berbasis teks yang jujur, bermanfaat, dan tidak berbahaya. Pada 01 Januari 2022, ia juga menulis “Red teaming language models to reduce harms: Methods, scaling behaviors, and lessons learned”. Dalam artikel tersebut, timnya mensimulasikan model bahasa besar untuk menemukan, mengukur, dan mengurangi output berpotensi berbahaya, mulai dari bahasa menyinggung hingga kekerasan.

Setelah keluar dari OpenAI, Askell bergabung dengan Anthropic. Di sini, ia menjadi penulis utama dan menulis sebagian besar dokumen Konstitusi Claude. Dokumen ini menjelaskan nilai-nilai dan perilaku Claude yang diharapkan: aman, beretika, sesuai pedoman, dan benar-benar bermanfaat. Konstitusi ini memandu pelatihan dan pengembangan Claude, sehingga AI dapat bertindak jujur, menghindari tindakan tidak pantas, dan tidak merusak mekanisme pengawasan manusia.

Kontribusi Askell tidak hanya terbatas pada tulisan. Ia juga mengembangkan teknik pelatihan yang dapat diterapkan pada model-model AI berikutnya. Teknik ini membantu Anthropic membuat sistem AI yang lebih baik dan lebih aman.

Pengakuan atas kerja kerasnya datang dari komunitas teknologi global. Pada 01 Januari 2024, Askell masuk daftar TIME100 AI, sebuah daftar bergengsi yang menyoroti figur paling berpengaruh dalam masa depan kecerdasan buatan.

Perjalanan Askell menunjukkan pergeseran dalam industri teknologi. Sekarang, perusahaan tidak hanya mengandalkan keahlian teknis. Mereka juga membutuhkan pemikiran mendalam tentang etika dan nilai manusia. Dengan demikian, teknologi yang dihasilkan tetap aman dan bermanfaat bagi semua pengguna.

Secara keseluruhan, Amanda Askell menegaskan bahwa filsafat dan etika memainkan peran penting dalam pengembangan AI. Melalui penelitian, pelatihan, dan penulisan dokumen pedoman, ia membantu menciptakan sistem AI yang lebih jujur, aman, dan sesuai nilai manusia.