Yapay zekâ otomasyonunda veri gizliliği: verileriniz ve buluşlarınız sizde kalır.

Ajans modelinde iş çoğu zaman birkaç kişiye, bazen alt yüklenicilere dağılır. Benim çalışma biçimimde muhatabınız da, verinize dışarıdan erişen de tek kişi. Bu sayfada yapay zekâ otomasyonu kurarken verinizi, ticari sırlarınızı ve buluşlarınızı nasıl koruduğumu anlatıyorum.

Verilerim yapay zekâ modellerini eğitmek için kullanılır mı?

Doğru seçilmiş bir kurulumda hayır. Ücretsiz sohbet uygulamaları ile kurumsal hizmetler farklıdır. Kurumsal API'lerde ve iş sürümlerinde sağlayıcılar, müşteri verisini varsayılan olarak model eğitiminde kullanmaz. Ücretsiz katmanlarda ise bu çoğu zaman geçerli değildir.

Kurulumda hangi sağlayıcının, hangi sözleşme koşullarıyla ve hangi bölgede kullanıldığını yazılı olarak paylaşırım. Ücretsiz tüketici araçlarına şirket verisi yüklenmez.

Verilerim nerede işlenir?

Verinin hassasiyetine göre üç seçenekten birini birlikte seçiyoruz:

• Kurumsal bulut: Veriyi eğitimde kullanmayan sözleşmeyle ve mümkün olduğunda Avrupa Birliği veri bölgesinde çalışan modeller. Günlük yazışma ve rapor işleri için.
• Kendi sunucunuz: İş akışlarını yürüten açık kaynak araçlar (örneğin n8n) şirketinizin sunucusunda çalışır. Dışarıya yalnızca işin gerektirdiği en küçük metin parçası gider.
• Yerel model: Çizimler, maliyetler, kişisel veriler ve Ar-Ge gibi en hassas işlerde model şirket içinde çalışır. Veri hiç dışarı çıkmaz.

Patent ve ticari sır açısından risk nedir?

En az konuşulan, ama ileride en pahalıya patlayabilen konu bu. Birkaç örnek:

• Henüz patent başvurusu yapılmamış bir buluş: Ayrıntıları kontrolsüz bir araca yazmak, buluşun gizliliğini ve ileride korunmasını tehlikeye atabilir. Ar-Ge belgeleri bu yüzden yalnızca yerel modelde işlenir.
• Müşteri çizimleri ve şartnameler: Otomotiv ve savunma müşterilerinin gizlilik sözleşmeleri çoğu zaman bu belgelerin üçüncü taraf bulutlara yüklenmesini kısıtlar. Önce sözleşmeyi okur, kurulumu ona göre yaparım.
• Üretilen içerik: Yapay zekânın hazırladığı metin, kod ya da görsel başkasının korunan bir eserine benzeyebilir. Dışarı çıkan her çıktı insan onayından geçer ve gerekiyorsa özgünlük kontrolü yapılır.
• Açık kaynak model ve araç lisansları: Her açık kaynak model ticari kullanıma aynı şekilde izin vermez. Kurulumda kullanılan araçların lisansları belgelenir.

KVKK ve GDPR için ne yapılır?

• Veri envanteri: Hangi kişisel verinin hangi ajanda, hangi amaçla işlendiği yazılır.
• En az veri ilkesi: Ajan yalnızca işi için gereken alanları görür. Kimlik ve iletişim bilgileri gerektiğinde maskelenir.
• Yurt dışına aktarım: Bulut kullanılacaksa, KVKK'nın 2024'te güncellenen yurt dışına aktarım kurallarına uygun yol seçilir.
• Erişim ve kayıt: Kimin neye eriştiği sınırlanır, ajanın her adımı kayıt altına alınır.

Verime kimler erişir?

Siz ve ekibiniz. Dışarıdan yalnızca ben. Alt yüklenici yoktur. İş başlamadan gizlilik sözleşmesi imzalarım. İş bitince erişimler kapatılır, çalışma kopyaları silinir.

Kurulan sistem kimin?

Sizin. İş akışları, ajan talimatları, entegrasyonlar ve kullanılan hesaplar sizin hesaplarınızda kurulur. İş bitince her şey belgeli olarak sizde kalır; bana bağımlı kalmazsınız. Desteğe devam etmek isterseniz aylık süreklilik seçeneği vardır, ama zorunlu değildir.

Bir ajan yanlışlıkla gizli bir bilgiyi dışarı gönderebilir mi?

Kurulum bunu önleyecek şekilde yapılır. Müşteriye, tedarikçiye ya da dışarıya giden her çıktı insan onayından geçer. Ajanın yetkileri işi kadardır; e-posta gönderme, ödeme ya da sözleşme gibi adımlar onaysız çalışmaz. Her adım kayıt altındadır.

Yapay zekâ ajanlarına özgü güvenlik riskleri nelerdir?

Büyük dil modelleriyle çalışan sistemlerin, klasik bilgi güvenliğine ek olarak kendine özgü riskleri var. OWASP'ın bu uygulamalar için yayımladığı on maddelik risk listesini kontrol listesi olarak kullanırım. Kurulumlarda en çok önem taşıyanlar:

• Talimat enjeksiyonu (prompt injection): Ajanın okuduğu bir e-postaya ya da belgeye gizlenmiş bir talimat onu yönlendirmeye çalışabilir. Dışarıdan gelen içerik talimat olarak değil veri olarak işlenir; kritik adımlar insan onayındadır.
• Aşırı yetki: Ajana işinden fazla erişim ve araç verilmesi. Her ajan yalnızca işi kadar yetkiyle kurulur.
• Hassas bilgi ifşası: Ajanın yanıtında görmemesi gereken bir bilgiyi aktarması. Erişim belge düzeyinde sınırlanır, kişisel veriler gerektiğinde maskelenir.
• İç talimatların sızması: Ajanın talimatlarına şifre, anahtar ya da gizli bilgi yazılmaz.
• Kontrolsüz tüketim: Döngüye giren bir ajanın maliyeti ve yükü artırması. İstek ve bütçe sınırları konur.

Butik çalışmak gizlilik açısından neden fark yaratır?

Gizlilik bir araç ayarından çok bir sorumluluk meselesidir. Büyük bir ekipte veriniz birçok kişinin ve sistemin elinden geçer; kim neye eriştiğini izlemek zorlaşır. Birebir çalıştığımda muhatabınız, kurulumu yapan ve verinize erişen aynı kişidir. Sorumluluk da tek adreste toplanır.

Gizlilik disiplinini otomotiv tedarik zincirinde öğrendim.

Hyundai ve Ford araç programlarında müşteri çizimleri, maliyetler ve kalite verisi sıkı gizlilik kurallarıyla korunuyordu. Tedarikçi denetimlerinde de aynı hassasiyeti gördüm. Yapay zekâ ajanı kurulumlarında bu disiplini aynen uyguluyorum. Ayrıntılar Hakkımda sayfasında.