Yapay zekada gizli profilleme, güvenlik ve mahremiyeti tehdit ediyor

Yapay zekada gizli profilleme, güvenlik ve mahremiyeti tehdit ediyor

GÜNDEM 10.07.2025 13:13:41 33 0
Yapay zekada gizli profilleme, güvenlik ve mahremiyeti tehdit ediyor

ANKARA (AA) - Son dönemde ChatGPT'nin kullanıcıların siyasi görüşleri, dini inançları gibi hassas bilgilerini sınırsız olarak etiketleyip profillemesi yönündeki iddialar, ciddi soru işaretlerine yol açtı.

ChatGPT'nin kurucusu OpenAI gibi yapay zeka şirketleri, gizlilik politikalarında kullanıcıların kişisel verilerini korumak için teknik ve idari önlemler aldığını resmi açıklamalarında belirtiyor. Ayrıca, kullanıcıların verilerinin model eğitimi için kullanılıp kullanılmayacağına karar verme hakkı olduğunu da sıklıkla vurguluyorlar. Ancak bazı uzmanlar, veri işleme süreçlerinin yeterince şeffaf olmadığını öne sürüyor.

Yüksek Veri Bilimi Mühendisi Emre Durgut, AA muhabirine yaptığı açıklamalarda, yapay zeka sistemlerinin sadece teknik değil, aynı zamanda hukuki ve toplumsal sorumluluk taşıdığına dikkati çekti.

Durgut, "En büyük risk, kullanıcılardan elde edilen kişisel bilgilerin, etiketleme yoluyla her kullanıcı için bir profil oluşturulmasıdır. Bu profiller, kullanıcının siyasi görüşleri, dini inançları, sağlık durumu gibi hassas nitelikteki kişisel verilerini içerebilir. Eğer bu bilgiler, kullanıcının açık rızası olmaksızın veya yasalara aykırı bir şekilde işleniyorsa, ciddi gizlilik ihlalleri meydana gelir." dedi.

Hukuki çerçeve

Veri işleme süreçlerinin çoğunlukla kullanıcıdan gizlendiğini ve hukuki çerçevelerin çiğnendiğini belirten Durgut, "Kullanıcı verilerinin, özellikle de hassas kişisel verilerin etiketlenmesi ve profillemesi iddiaları doğruysa, bu durum başta Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ve Türkiye'deki Kişisel Verilerin Korunması Kanunu (KVKK) olmak üzere birçok yasal çerçeveyi ihlal etmektedir." diye konuştu.

Kullanıcıların genellikle sistemin nasıl çalıştığını tam olarak bilemediğinden, verdikleri bilgilerin nasıl analiz edildiğini fark edemediğini dile getiren Durgut, "Bu yasalar, kişisel verilerin işlenmesi için açık rıza, veri minimizasyonu, amaca bağlılık ve şeffaflık ilkelerini temel alır. Hassas verilerin (siyasi görüş, dini inanç vb.) işlenmesi için ise çok daha katı şartlar öngörür. Eğer platformlar, bu tür verileri yasal bir dayanağı olmaksızın işliyor, etiketliyor ve profil oluşturuyorsa, bu durum açıkça hukuka aykırı bir veri işleme faaliyeti anlamına gelir." değerlendirmesinde bulundu.

Etiketleme ve profilleme faaliyetlerinin tespitinin, teknik ve hukuki uzmanlık gerektiren karmaşık bir süreç olduğuna değinen Durgut, "Bu alan henüz çok yeni ve dünya çapında bir rekabet oluştuğu için bağımsız denetçilerin henüz sürece dahil olmadığını gözlemliyoruz. Bu nedenle kullanıcı girdileri ile sistem çıktılarının karşılaştırılması bilgilerin nasıl etiketlendiğini gösterebilir. Bu platformlarda hangi bilgilerinizin işlendiğine dair doğru birkaç teknik soru sorarak ipuçları elde edebilirsiniz." ifadelerini kullandı.

Yasal düzenlemelerin yeterli olup olmadığı sorusunu da yanıtlayan Durgut, GDPR ve KVKK gibi yasaların güçlü temellere sahip olduğunu, ancak günümüz yapay zeka sistemlerinin dinamik yapısının yeni düzenlemeleri gerekli kıldığını belirtti. Durgut, "Özellikle yapay zeka etiği, algoritmik şeffaflık, açıklanabilirlik ve otonom sistemlerin sorumluluğu gibi alanlarda uluslararası düzeyde kabul görecek yeni standartlara ve normlara ihtiyaç vardır." dedi.

"Verilerin sızması zincirleme etki yaratabilir"

Sistemin verdiği yanıtların zamanla kişiye özel hale geldiğini belirten Durgut, bunun reklam, işe alım ya da finansal kararlar gibi alanlarda ayrımcılığa neden olabileceğini söyledi.

Emre Durgut, "Örneğin, bir yapay zeka sisteminin kullanıcıların metin girdilerini analiz ederek, belirli bir siyasi görüşe, etnik kökene, dini inanca sahip olduğuna dair yanlış bir etiketleme yaptığını düşünelim. Bu yanlış etiketleme, kişiye özel reklam gösterimlerinden, kredi başvurularının reddine, hatta işe alım süreçlerindeki önyargılara kadar somut ayrımcılıklara yol açabilir." uyarısında bulundu.

Verilerin sızması halinde ise zincirleme etkinin çok daha ciddi sonuçlar doğurabileceğini vurgulayan Durgut, bilgilerin kötü niyetli aktörlerin eline geçmesi halinde sosyal mühendislik saldırıları, şantaj, dolandırıcılık gibi güvenlik açıkları doğacağını, kritik pozisyonlardaki bireylerin verilerinin ulusal güvenlik tehdidine dönüşebileceğini ifade etti.

Hem kullanıcılara, hem de teknoloji şirketlerine birçok görev ve sorumluluk düşüyor

Kullanıcılara uyarılarda da bulunan Durgut, "Öncelikle, bu tür sistemlere hassas kişisel bilgilerinizi olabildiğince vermekten kaçının. Sadece tek bir platformu kullanmadan farklı bilgileri dağıtarak riski azaltmaya çalışın. Bu tür sistemlerin kullanımında farkındalığınızı artırın ve şüpheci bir yaklaşımla hareket edin." diye konuştu.

ChatGPT ve benzeri yapay zeka uygulamaları üreten teknoloji firmalarına da büyük bir görev düştüğüne işaret eden Durgut, şunları kaydetti:

"Bu firmalar, şeffaf ve açık bir şekilde veri işleme süreçlerini ve kullanım politikalarını anlaşılır biçimde açıklamalılar. Şirketler, bağımsız denetimlerle uygulamalarını düzenli olarak denetletmeli ve sonuçlarını kamuoyuyla paylaşmalıdırlar. Kullanıcılara verileri üzerinde daha fazla kontrol ve yönetim yetkisi vermelidirler (örneğin, veri silme, erişim veya düzeltme hakları). Etik kurullar ile şirket içinde güçlü kurallar oluşturmalı ve uygulanabilir politikalar benimsemelidirler."



Muhabir: Firdevs Bulut Kartal

Haber Kaynak : Anadolu Ajansı

Borsa günü yükselişle tamamladı

Galatasaray'da kulüp doktoru Yener İnce'den Icardi açıklaması

Trump'tan, eski CIA ve FBI direktörlerine açılan soruşturmaya Fox News'ten alıntıyla destek

Alman ihracatçılar, ABD ile "her ne pahasına olursa olsun anlaşması" istemiyor

Gazze'deki manzara Fransız tarihçiyi şok etti: İsrail'in uluslararası basını neden engellediğini anlıyorum

TBMM Başkanı Kurtulmuş, Bosna Hersek İslam Birliği Başkanı Kavazoviç ile görüştü

Adıyaman Belediye Başkanı Abdurrahman Tutdere görevden uzaklaştırıldı

Cumhurbaşkanı Erdoğan: 5 yıl önce bugün zincirlerini kırdığımız Ayasofya, inşallah ebediyen özgür kalacak

Tayland’da "Moo Deng" adlı cüce su aygırının birinci yaş günü kutlamasına binlerce kişi katıldı

AB'den Ukrayna'ya desteğe devam mesajı

Kadın Kriket Milli Takımı, ilk kez katıldığı uluslararası turnuvada şampiyon oldu

Perşembe ile Fatsa arasındaki sahil yolu, manzarasıyla sürücülere keyifli rota sunuyor

Fenerbahçe, futbol takımının kalitesini artırmak için çalışıyor

Vanlı aileler DEM Parti binası önündeki "evlat nöbeti"ni sürdürdü

Avusturya Parlamentosu, mesajlaşma uygulamalarının takibini öngören tasarıyı onayladı

Almanya'da polisin göstericilere yönelik orantısız güç kullanması eleştirilerin hedefi oldu

Diyarbakır'da kalp ve akciğer hastası çocuklar için "Pediyatrik ECMO Merkezi" kuruldu

Cumhurbaşkanı Erdoğan, MHP Genel Başkanı Bahçeli'yi kabul etti

Fiorentina, Edin Dzeko'yu kadrosuna dahil etti

Merkez Bankası rezervleri 164,4 milyar dolar oldu

"Akademi Giriş Sınavı ve Öğretmenlik Alan Bilgisi Testi" pazar günü yapılacak

Katılım Finansın Geleceği Türkiye-Malezya İş Forumu başladı

Ukrayna'nın Yeniden İnşası Konferansı Roma'da başladı

LGS sınav sonuçları yarın saat 10.00'da açıklanacak

Dikey Geçiş Sınavı giriş belgeleri erişime açıldı

Maltepe Üniversitesi 2024-2025 mezunlarını törenle uğurladı

Aile hekimliğinde hizmet takip süresi 1 yıla çıkarıldı

Düzenli tarama ve aşı uygulamasıyla HPV tamamen önlenebilir

Yılın ilk yarısında hava yoluyla 108,8 milyon yolcu seyahat etti

Müzisyen Rüçhan Çamay hayatını kaybetti

Yükleniyor

YAZARLAR