Pria yang dibersihkan oleh polisi setelah mengambil foto medis anaknya masih dilarang oleh Google

Seorang pria, diidentifikasi hanya dengan nama depannya Mark oleh The New York Times (melalui Penjaga) akun Google-nya ditutup setelah mengambil foto medis selangkangan putranya. Foto-foto itu diambil karena sang ayah mengira selangkangan putranya tampak meradang dan dia ingin dokter mendiagnosis dan merawat putranya. Dokter memang menggunakan gambar itu untuk membuat diagnosis dan dia juga meresepkan antibiotik.

Seorang pria mengambil foto selangkangan anaknya untuk alasan medis dan akhirnya dicap cabul oleh Google

Saat foto diunggah ke cloud, Google mengidentifikasi mereka sebagai Materi Pelecehan Seksual Anak (CSAM) dan mengajukan laporan ke Pusat Nasional untuk Anak Hilang dan Tereksploitasi (NCMEC). Hal ini menyebabkan penyelidikan polisi.

Dua hari setelah foto-foto itu diunggah, Google menutup segala sesuatu atas nama ayah yang termasuk akun Google Fi. Waktu Laporan mencatat bahwa Google menelepon Mark di telepon untuk memberi tahu dia bahwa itu menganggap gambar putranya sebagai “konten berbahaya” yang dipandang sebagai “pelanggaran berat terhadap kebijakan perusahaan dan mungkin ilegal.” Sang ayah kemudian mengetahui bahwa Google menandai video di teleponnya dan polisi San Francisco memulai penyelidikan.

Sementara Mark akhirnya dibebaskan dari semua kesalahan, tampaknya Google tidak akan memulihkan akunnya. Juru bicara Google Christa Muldoon mengatakan, “Kami mengikuti hukum AS dalam mendefinisikan apa yang dimaksud dengan CSAM dan menggunakan kombinasi teknologi pencocokan hash dan kecerdasan buatan untuk mengidentifikasi dan menghapusnya dari platform kami.” Sementara Muldoon mengatakan bahwa staf Google yang bekerja pada situasi CSAM dilatih oleh para ahli medis untuk mencari ruam dan masalah lain di area sensitif, mereka bukan dokter dan ahli medis tidak dibawa ke setiap kasus.
“Perusahaan-perusahaan ini memiliki akses ke sejumlah besar data invasif tentang kehidupan orang-orang. Dan tetap saja mereka tidak memiliki konteks kehidupan orang-orang yang sebenarnya,” kata Daniel Kahn Gillmor, staf teknologi senior di ACLU. Dia menambahkan bahwa “Ada banyak hal di mana fakta hidup Anda tidak dapat dibaca oleh raksasa informasi ini.”

Gillmor menambahkan, “Dan bukan hanya karena saya tidak berpikir bahwa sistem ini dapat menangkap setiap kasus pelecehan anak, itu juga memiliki konsekuensi yang sangat buruk dalam hal positif palsu bagi orang-orang. Kehidupan orang-orang dapat benar-benar dijungkirbalikkan oleh mesin dan manusia dalam lingkaran hanya membuat keputusan yang buruk karena mereka tidak punya alasan untuk mencoba memperbaikinya.”

Menambahkan lebih banyak informasi latar belakang ke cerita ini akan membuatnya lebih mudah dipahami. Peristiwa dalam artikel ini terjadi pada Februari 2021 ketika banyak kantor dokter masih tutup karena COVID. Foto-foto yang diambil Mark diminta oleh perawat dokter. Google, pada bagiannya, mengatakan bahwa itu hanya memindai gambar ketika pengguna mengambil “tindakan afirmatif” yang dalam hal ini berarti mengunggah gambar ke Foto Google.

Meskipun dibersihkan oleh penegak hukum, Mark masih tidak dapat dipulihkan oleh Google

Penting untuk dicatat bahwa Mark dibebaskan oleh polisi dari melakukan kejahatan apa pun. Google diwajibkan oleh undang-undang federal untuk melaporkan calon pelanggar ke CyberTipLine National Center for Missing and Exploited Children (NCMEC). Tahun lalu, Google melaporkan 621.583 kasus. Dari kasus-kasus itu, 4.260 diteruskan ke pihak berwenang. Kasus Mark termasuk di antara mereka menurut Waktu.

Seluruh perselingkuhan yang berantakan ini tampaknya merupakan tindakan yang berlebihan dari pihak Google, terutama setelah Mark dibersihkan oleh polisi. Pertanyaan besarnya adalah apakah Mark mengambil foto-foto ini untuk kepuasan seksual dan jawabannya adalah “Tidak”. Mungkin Googler terlalu kutu buku untuk menjadi ayah dari anak, atau mungkin mereka bekerja sepanjang hari dan tidak punya waktu untuk anak-anak mereka. Tetapi ketika Anda seorang ayah dan Anda melihat masalah dengan anak Anda selama pandemi, Anda akan melakukan apa yang diperlukan untuk mendapatkan diagnosis dan perawatan untuknya.

Sebaliknya, Google mengambil akses Markus ke email, foto, kontak, dan nomor teleponnya. Terus terang, sulit untuk membela Google karena melanjutkan penganiayaannya terhadap seorang pria yang tidak hanya dinyatakan tidak bersalah oleh polisi tetapi juga orang yang sangat peduli pada anaknya.