Kepala Keamanan dan Integritas Twitter Yoel Roth mengakuinya utas Twitter bahwa perusahaan mungkin harus berinvestasi lebih lanjut dalam “verifikasi identitas” yang melampaui sistem verifikasi berbayar yang akan menyertai langganan Twitter Blue yang diperbarui. Di bawah Elon Musk, Twitter telah bergegas merilis versi baru langganan Twitter Blue-nya yang nilai jual utamanya adalah kemampuan untuk membeli lencana verifikasi dengan membayar $7,99 per bulan. Perubahan ini dimaksudkan untuk membuat verifikasi Twitter lebih mudah diakses oleh pengguna yang sebelumnya tidak dapat diverifikasi di bawah sistem lama Twitter, yang hanya membagikan lencana biru-putih yang didambakan kepada tokoh masyarakat, selebritis, politisi, jurnalis, dan tokoh terkenal lainnya. individu.

Sistem Twitter sebelumnya memeriksa siapa yang menerima tanda centang melalui proses internal yang akan mengonfirmasi bahwa orang tersebut adalah orang yang mereka katakan, sehingga pengguna lain di Twitter dapat diyakinkan tentang identitas figur publik tersebut.

Sekarang, Twitter tampaknya menyadari bahwa verifikasi identitas asli — jenis yang tidak dapat dibeli seharga $ 8 — sebenarnya memiliki kelebihan. Tetapi tidak jelas di mana Twitter akan menarik garis dalam hal siapa yang memerlukan identitas mereka untuk diverifikasi lebih lanjut atau bagaimana hal itu akan dicapai.

Dalam sebuah utas di mana Roth berusaha menjelaskan kebijakan Twitter yang berbeda seputar parodi (yang diizinkan), dan peniruan identitas (yang tidak), dia juga merinci bagaimana perusahaan akan menangani situasi di mana sejumlah akun terverifikasi dengan lencana biru terlibat dalam peniruan identitas. Ini membuatnya berbagi pemikirannya tentang verifikasi identitas di Twitter juga.

Utas itu muncul karena peniruan besar-besaran adalah sesuatu yang baru-baru ini terjadi pada Elon Musk sendiri. Minggu ini, sejumlah selebritas terverifikasi menggunakan nama layar dan gambar profil Musk untuk menjebaknya. Musk menanggapi dengan mengumumkan larangan pada akun apa pun yang berpura-pura menjadi orang lain dan bahkan mem-boot salah satu peniru – komedian Kathy Griffin – dari Twitter sepenuhnya. (Dia kemudian kembali ke platform dengan menggunakan akun Twitter mendiang ibunya.)

Roth mengatakan bahwa ke depannya, Twitter akan menangani peniruan identitas yang dilakukan oleh pengguna terverifikasi seperti sebelumnya — Twitter akan menangguhkan akun yang terlibat dalam praktik tersebut.

Namun, ketika langganan Twitter Blue baru diluncurkan secara publik, peniruan identitas bisa menjadi lebih sulit untuk diterapkan jika ada peningkatan pengguna terverifikasi untuk diawasi oleh Twitter. Untuk mengatasinya, Roth mengatakan bahwa Twitter akan “meningkatkan tinjauan proaktif terhadap akun Blue Verified yang menunjukkan tanda-tanda meniru pengguna lain,” dan kemudian menangguhkannya, jika ditemukan. Dia juga meminta pengguna Twitter untuk melaporkan akun yang terlibat dalam peniruan identitas.

Tentu saja, tim Kepercayaan & Keamanan Roth telah melihat PHK setelah pengambilalihan Twitter Musk, yang berpotensi membuat penegakan seperti itu menjadi tantangan. Sementara eksekutif mengklaim bahwa timnya hanya melihat pemotongan 15%, dibandingkan dengan pemotongan 50% untuk Twitter secara keseluruhan, jelas bahwa banyak tim yang memainkan peran penting dalam mengelola informasi yang salah pada layanan terkena dampak – termasuk yang berurusan dengan integritas pemilu dan kebijakan publik. . Tidak dipahami seberapa baik tim yang baru kekurangan staf dapat mengikuti jika sejumlah besar pengguna memutuskan untuk terlibat dalam peniruan identitas setelah diverifikasi.

Karena potensi penyalahgunaan, Twitter memutuskan untuk menunda peluncuran sistem Twitter Blue yang dirubah hingga setelah pemilihan paruh waktu AS pada hari Selasa, The New York Times melaporkan akhir pekan ini dan Roth telah sekarang dikonfirmasi.

Terlebih lagi, Roth tampaknya mengakui bahwa hanya meminta pengguna untuk membayar lencana biru mereka bukanlah bentuk verifikasi identitas yang kuat dan bahwa Twitter mungkin perlu berbuat lebih banyak di bidang ini di masa mendatang. (Kamu tahu… seperti dulu, ketika verifikasi berarti sesuatu yang lebih dari “Saya punya $8!”).

Roth menjelaskan sistem Twitter yang lebih lama membuat verifikasi sebagai sinyal keaslian (Anda adalah diri Anda yang Anda katakan) dan ketenaran, yang berarti Anda penting dalam beberapa hal. Eksekutif tersebut mengatakan bahwa dia mendukung untuk menyingkirkan ketenaran dan alih-alih berfokus pada “bukti-kemanusiaan” – sesuatu yang dapat dibantu oleh umpan berlangganan berbayar $ 8 karena dapat menyingkirkan spammer dan aktor jahat yang tidak ingin membayar atau melewati pemeriksaan penipuan yang terkait dengan pembelian dalam aplikasi di toko aplikasi utama.

Namun, Roth mengisyaratkan bahwa verifikasi berbayar saja tidak dapat berfungsi untuk memverifikasi identitas sepenuhnya, menunjukkan bahwa Twitter perlu melakukan lebih banyak pekerjaan di bagian depan ini di masa mendatang.

“Jangka panjang, saya pikir kita perlu berinvestasi lebih banyak dalam verifikasi identitas sebagai pelengkap bukti kemanusiaan,” tulis Roth. “Verifikasi Berbayar adalah sinyal kemanusiaan yang kuat (tidak sempurna), yang membantu melawan bot dan spam. Tapi itu tidak sama dengan verifikasi identitas,” katanya.

Roth tidak merinci lebih lanjut tentang apa yang mungkin perlu dilakukan Twitter secara berbeda selain verifikasi berbayar melalui Blue untuk menyelesaikan verifikasi identitas.

Pernyataannya, bagaimanapun, menimbulkan pertanyaan tentang apa yang dipikirkan Twitter di sini.

Saat ini, sejumlah jejaring sosial telah mulai menggunakan pengenalan wajah dan AI untuk memverifikasi penggunanya, yang telah menimbulkan masalah privasi. Instagram, misalnya, menggunakan AI untuk memindai postingan “selamat ulang tahun” untuk melihat apakah seorang anak berbohong tentang usia mereka saat mendaftar. Yubo meminta semua pengguna di platformnya untuk memverifikasi usia mereka dengan pemindaian wajah. Meskipun metode tersebut difokuskan untuk memastikan anak di bawah umur tidak berbohong tentang usia mereka di platform, metode tersebut dapat digunakan untuk tujuan lain. Video, khususnya, sangat berguna untuk verifikasi identitas — bahkan Amazon menyaring penjual pihak ketiga melalui video untuk membantu melawan penipuan pada satu titik.

Dalam kasus lain, jejaring sosial meminta pengguna untuk mengirimkan salinan ID pemerintah mereka untuk membuktikan identitas mereka — Facebook melakukannya, dalam beberapa situasi, seperti saat Anda kehilangan akses ke akun Anda.

Keuntungan Twitter, secara historis, adalah siapa pun dapat membuat akun dan mereka tidak perlu menggunakan nama atau identitas asli mereka saat melakukannya. Ini telah membantu para aktivis dan penyelenggara tetap terlindungi ketika men-tweet informasi penting dan membantu mereka yang berada di bawah rezim otoriter berkomunikasi. Itu sebabnya Twitter bisa berperan selama protes “Arab Spring” tahun 2010 dan 2012, misalnya.

Di sisi yang lebih ringan, kurangnya identitas juga memungkinkan keuntungan unik lainnya – seperti akun parodi di mana orang tidak pernah tahu identitas sebenarnya dari poster tersebut, tetapi bersenang-senang menebak.

Sebelumnya, jika Anda menginginkan lencana biru, maka Anda juga memilih untuk memverifikasi identitas Anda. Sekarang lencana biru hanyalah barang yang dapat Anda beli, itu tidak lagi berfungsi sepenuhnya untuk verifikasi identitas. Inilah yang diakui Roth sekarang.

Tetapi jika Twitter bermaksud untuk berinvestasi dalam “verifikasi identitas” untuk semua penggunanya di beberapa titik lebih jauh, itu akan mengganggu sifat dasar platform dan kemampuan pengguna untuk menjadi anonim – tanpa dianggap sebagai spammer.

Apakah Twitter pada akhirnya akan mengandalkan teknologi, pemeriksaan manual melalui tim (seperti sebelumnya), atau keduanya, masih harus dilihat. Tapi itu adalah area yang menuntut perhatian terus-menerus saat Twitter bergerak maju ke era Musk.