Promptshıeld: polıcy-aware data loss preventıon framework for generatıve AI prompts
Promptshıeld: Politika farkındalıklı üretken yapay zekâ istemleri için veri kaybı önleme çerçevesi
- Tez No: 990257
- Danışmanlar: PROF. DR. ŞERİF BAHTİYAR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Siber güvenlik, Cyber security
- Yıl: 2026
- Dil: İngilizce
- Üniversite: İstanbul Teknik Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Üretken yapay zekâ (GenAI) sistemlerinin kurumsal ortamlarda hızla yaygınlaşması, bilginin üretilme, işlenme ve paylaşılma biçimini kökten değiştirmiştir. ChatGPT, Gemini ve Microsoft Copilot gibi büyük dil modelleri, e-posta yazımı, rapor özetleme, kod üretimi, insan kaynakları süreçlerinin desteklenmesi ve finansal analiz gibi çok farklı iş akışlarında günlük çalışma rutinlerinin bir parçası hâline gelmiştir. Bu sistemler, önceki kural tabanlı veya yalnızca sorgu cevap mantığıyla çalışan yapılardan farklı olarak, bağlama duyarlı, doğal ve etkileşimli bir iletişim kurabilmekte olup kullanıcıya serbest bir metin giriş alanı ve otomasyon kapasitesi sunmaktadır. Ancak bu esnek ve serbest biçimli yapı, aynı zamanda yeni bir saldırı ve sızıntı yüzeyi oluşturmaktadır. Kullanıcılar, farkında olmadan kişisel veriler, finansal bilgiler, ticari sır niteliğindeki içerikler veya kaynak kodları gibi hassas verileri GenAI istemlerinin içine yerleştirebilmektedir. Bu istemler de çoğu zaman üçüncü taraf, bulut tabanlı Büyük Dil Modelleri (LLM) sağlayıcılarına gönderilmektedir. Bu durumda, verinin nerede saklandığı, ne kadar süre tutulduğu, modele eğitim verisi olarak kullanılıp kullanılmadığı ve hangi ülke ve uygulama mevzuatına tabi olduğu soruları kritik hâle gelmektedir. Geleneksel Veri Kaybı Önleme (DLP) çözümleri, ağırlıklı olarak e-posta, dosya paylaşımı, uç nokta hareketleri veya depolama alanları gibi kalıcı ve kanallara göre tanımlanmış veri akışlarını izlemeye ve kontrol etmeye odaklanmıştır. Bu sistemler, genellikle imza tabanlı kurallar, düzenli ifade kalıpları veya dosya sınıflandırma etiketleri üzerinden çalışmaktadır. Dolayısıyla kredi kartı numarası, T.C. kimlik numarası, belirli anahtar sözcükler gibi önceden tanımlı kalıpları yakalamakta başarılıdır. Ancak GenAI kullanımında ortaya çıkan istemler geçici, serbest biçimli ve bağlama son derece bağımlıdır. Çoğu zaman merkezi e-posta ağ geçitlerinden ya da klasik DLP sensörlerinden geçmeden doğrudan tarayıcı veya masaüstü istemci üzerinden dış modele iletilmektedir. Dolayısıyla, klasik DLP çözümleri bu yeni veri temas noktasını ya hiç görememekte ya da ancak çok sınırlı ölçüde kontrol edebilmektedir. Literatürde, veri kaybı önleme alanında makine öğrenmesi, bağlamsal DLP, bulut DLP ve kimlik erişim yönetimi gibi başlıklar altında önemli ilerlemeler kaydedilmiş olsa da, istem (prompt) düzeyinde, gerçek zamanlı, rol farkında ve redaksiyon destekli bir mekanizmanın eksik olduğu görülmektedir. Bu tez, söz konusu boşluğu adreslemek amacıyla, üretken yapay zekâ istemlerinin hassasiyetini istem gönderilmeden önce değerlendiren, kullanıcı rolüne göre politikalar uygulayan ve gerekirse istem içindeki hassas varlıkları satır içi maskeleyen PromptShield adlı politikaya duyarlı, istem düzeyinde bir DLP çerçevesi önermektedir. PromptShield, istemci tarafında çalışan düşük kaynak tüketimli bir ara katman (middleware) gibi davranmaktadır. Kullanıcı arayüzü ile dış LLM uç noktası arasına konumlanarak tüm istemleri karşılamakta, sınıflandırmakta ve kurumsal politikalara göre“İzin Ver (Allow) / Uyar (Warn) / Engelle (Block)”kararları üretmektedir. Böylece güvenlik kontrolü, verinin organizasyonun güvenlik sınırını terk etmeden önce uygulanmaktadır. Model taraflı güvenlik katmanları veya bulut DLP çözümlerinin tek başına sağlayamayacağı türden önleyici bir koruma sağlanmaktadır. PromptShield mimarisi üç ana bileşenden oluşmaktadır: (i) Anlamsal Sınıflandırıcı, (ii) Rol Bazlı Politika Motoru ve (iii) Varlık Duyarlı Redaksiyon Modülü. Anlamsal sınıflandırıcı, MiniLM tabanlı cümle yerleştirmeleri (sentence embeddings) kullanarak her bir istemi vektör uzayına taşımakta ve bu temsilleri bir Rastgele Orman (Random Forest) sınıflandırıcıya besleyerek istemi Güvenli (Safe), Riskli (Risky) veya Gizli (Confidential) sınıflarından birine atamaktadır. Rol bazlı politika motoru, bu sınıf bilgisini kullanıcı rolüyle (İK, Finans, Ar-Ge) birlikte değerlendirerek, her rol için önceden tanımlanmış politika tablolarına göre karar üretmektedir. Örneğin, İnsan Kaynakları rolü için Gizli sınıfındaki istemler her zaman Engelle ile sonuçlanırken, Finans için Riskli istemlere Uyarı + Redaksiyon, Ar-Ge için Riskli ve Gizli sınıflarına doğrudan Engelle kararı verilebilmektedir. Rol bazlı politikalarının uygulanabilirliği JavaScript Object Notation (JSON) formatında dış bir dosyada tanımlanmasıyla sağlanmaktadır. Varlık duyarlı redaksiyon modülü ise spaCy NER modeliyle kişi adı (PERSON), kurum (ORG), coğrafi konum (GPE), tarih (DATE), konum (LOC) ve para miktarı (MONEY) gibi hassas varlıkları tespit ederek, bu varlıkları [REDACTED\_PERSON], REDACTED\_MONEY] gibi yer tutucularla değiştirmekte ve böylece istemin ana anlamını koruyarak hassas kısımlarını maskelemektedir. Uyarı senaryosunda kullanıcı, hem orijinal hem de redakte edilmiş istemi görebilmektedir.İsterse redakte edilmiş hâliyle devam edebilmekte ve hangi alanların neden maskelendiğini doğrudan gözlemleyebilmektedir. Tez kapsamında, literatürde bulunmayan“rol + hassasiyet”etiketli bir veri kümesi tasarlanmıştır. Üç farklı kurumsal rol (İK, Finans, Ar-Ge) için toplam 900 eğitim, 435 bağımsız test istemi oluşturulmuştur. Her bir istem, içerdiği kişisel veriler, finansal bilgiler, proje ve geliştirme detayları ve kurumsal gizlilik derecesi dikkate alınarak manuel olarak Güvenli, Riskli veya Gizli sınıflarına atanmıştır. Eğitim ve test kümesi rol ve sınıf dağılımı dengeli olacak şekilde tasarlanmış, güvenlik açısından kritik olan Gizli sınıflarının yeterince temsil edilmesine özellikle dikkat edilmiştir. Model tarafında, MiniLM tabanlı cümle yerleştirmeleri, hem anlamı iyi yakalaması ve bağlamı aktarabilmesi nedeniyle hem de çalışma süresi açısından tercih edilmiştir. Daha büyük dil modellerinin sağladığı ek doğruluk kazanımının, istemci taraflı ve gerçek zamanlı bir DLP senaryosunda getireceği gecikme maliyetini aşabileceği değerlendirilmiştir. Bu nedenle, hafif (light) ama yeterli performans sağlayan bir model seçilmiştir. Yerleştirme çıktıları, scikit-learn kütüphanesi kullanılarak eğitilen Rastgele Orman sınıflandırıcısına girdi olarak verilmektedir. Sınıflandırıcıdan hem sınıf etiketi hem de sınıf olasılık dağılımı elde edilmektedir. Bu yapı, hem yorumlanabilirlik (karar ağaçları) hem de orta ölçekteki veri kümelerinde istikrarlı performans açısından avantaj sağlamaktadır. Tezde ayrıca sınıflandırma sürecinin akışı, algoritma ile (örneğin“Prompt Hassasiyet Sınıflandırma Algoritması”) biçimsel olarak da sunulmuştur. Politika motoru, sınıflandırıcıdan gelen etiketle kullanıcı rolünü bir araya getirerek, JSON formatında tanımlı politika tablosuna bakmakta ve bu tabloya göre Allow/Warn/Block kararını üretmektedir. Bu sayede, sınıflandırıcı modelin yeniden eğitilmesine gerek kalmadan sadece politika dosyası değiştirilerek yeni roller eklenebilmekte, mevcut rollerin eşikleri güncellenebilmekte veya daha kısıtlayıcı ya da daha esnek stratejiler uygulanabilmektedir. Bu tasarım, güvenlik ve uyum ekiplerinin teknik ML (Makine Öğrenmesi) detaylarına girmeden, iş birimi seviyesinde politika tanımlayabilmesini mümkün kılmaktadır. Redaksiyon katmanı ise, özellikle“Uyar”kararının verildiği durumlarda devreye girmektedir. Kullanıcının iş akışını tamamen kesintiye uğratmak yerine, hassas varlıkları maskeleyerek istemin güvenli hâle getirilmesi hedeflenmektedir. Bu yaklaşım, klasik DLP çözümlerinin çoğunlukla başvurduğu“engelle ve logla”stratejisinden daha kullanıcı dostu ve eğitici bir mekanizma sunmaktadır. Kullanıcı, hangi varlıkların neden maskelendiğini gördükçe kendi güvenlik farkındalığını da geliştirmekte ve uzun vadede, istemlerini daha güvenli biçimde formüle etmeye başlamaktadır. Tezde redaksiyon algoritması österilmiştir.Hangi varlık türlerinin maskelemeye tabi tutulacağı konfigüre edilebilir bir küme hâlinde tanımlanmıştır. Uygulama, Python 3.10 ile geliştirilmiş ve Flask tabanlı hafif bir web arayüzü ile son kullanıcıya sunulmuştur. app.py, istemin alınması, sınıflandırılması, politika motoruna iletilmesi, gerekli ise redaksiyonun uygulanması ve kararın kullanıcıya aktarılması süreçlerini uçtan uca koordine etmektedir. nlp\_classifier.py, embedder, model ve etiket kodlayıcısının yüklenmesi ve istemlerin sınıflandırılmasından sorumludur. policy\_engine.py politika tablolarını JSON dosyasından okuyarak basit bir sözlük yapısı üzerinden karar vermekte; redactor.py ise spaCy NER modelini kullanarak metin içinde varlık tespiti ve maskeleme yapmaktadır. Tüm bileşenlerin modüler olması sayesinde, gelecekte embedding modeli, sınıflandırıcı veya NER bileşeni, diğerlerinden bağımsız şekilde güncellenebilecektir. Ayrıca her istem için rol, model etiketi, politika kararı ve redakte edilmiş metin bilgisi bir log dosyasında saklanarak, denetim (audit), hata analizi ve sürekli iyileştirme ihtiyaçlarına hizmet etmektedir. Performans değerlendirmesi kapsamında, sınıflandırıcı \%72.92 doğruluk elde etmiş ve özellikle Gizli sınıfında yüksek duyarlılık göstermiştir. Hata analizi, yanlış sınıflandırmaların büyük kısmının Güvenli–Riskli arasında gerçekleştiğini ortaya koymuştur. Örneğin,“bütçe trendlerini analiz etmek için son iki yılın performans verilerini özetleyebilir misin?”gibi istemler yüzeysel olarak hassas veri içermiyor gibi görünse de bağlamla birlikte düşünüldüğünde ücret, performans ya da finansal hedef bilgilerini ima edebilmektedir. Dolayısıyla da sınıflandırma görevini zorlaştırmaktadır. Tezde, bu tür örneklerin özellikle kurumsal bağlam bilgisinin modelde daha güçlü biçimde temsil edilmesine ihtiyaç duyduğuna dikkat çekilmiştir. Buna karşın, sistemin tasarımı sayesinde yüksek riskli içeriğin gözden kaçması görece sınırlı tutulmuştur. Politika motoru sonuçları incelendiğinde, İK rolü için Uyar ve Engelle kararlarının daha sık, Finans için İzin Ver ve Uyar kararlarının daha dengeli, Ar-Ge için ise Engelle oranının nispeten daha yüksek olduğu görülmüştür. Bu dağılım, kurumsal risk iştahı ve rol bazlı veri hassasiyetiyle uyumludur. Redaksiyon modülü, niteliksel incelemelerde kişi adları, şirket isimleri, maaş bilgileri ve tarih ifadelerini başarılı şekilde maskelemiştir.Ayrıca cümle akışını bozmadan, istemin kullanılabilirliğini korumuştur. Tezde, Uyar kararı verilen gerçekçi örnek ekran görüntüleri üzerinden, kullanıcının hem orijinal hem de redakte edilmiş istemi nasıl görüntülediği gösterilmiştir. Zamanlama ölçümleri, PromptShield'in gerçek zamanlı kullanım için elverişli olduğunu doğrulamıştır. Model yükleme yalnızca uygulama başlatılırken yapıldığından, her istem için embedding, sınıflandırma, politika kontrolü ve redaksiyon süreleri toplamda 120 - 150 ms aralığında kalmıştır. Bu değer, tipik web tabanlı GenAI kullanım senaryolarında algılanabilir bir gecikmeye yol açmamakta ve sistemi kullanıcı deneyimi açısından pratik kılmaktadır. Tez çalışması, literatürdeki çalışmalarla karşılaştırıldığında, üç temel açıdan özgün bir katkı sunmaktadır. Birincisi, DLP kavramını dosya, e-posta veya depolama odaklı klasik kanallardan çıkararak, istem düzeyine getiren ve gerçek zamanlı bir çerçeve önermektedir. İkincisi, rol bazlı politika modeli ile güvenlik kararlarını kullanıcı bağlamına göre uyarlamaktadır. Aynı içeriğin farklı rollerde farklı muamele görmesini sağlayarak, hem güvenliği hem de kullanılabilirliği optimize etmektedir. Üçüncüsü, tamamen engellemeye dayalı yaklaşımlar yerine, varlık düzeyinde redaksiyon ile“kontrollü izin verme”seçeneği sunmaktadır. Bu sayede hem veri sızıntısı riski azaltılmakta hem de kullanıcıların iş akışı kesintiye uğramamaktadır. Bununla birlikte çalışma, bazı sınırlılıklar (limitations) da içermektedir. Veri kümesi sentetik olduğundan, gerçek kurumsal verilerin taşıdığı dil çeşitliliği ve gizli ipuçlarının tamamını yansıtmayabilir. Kullanılan NER modeli genel amaçlı olduğundan, kurum içi proje kodları, ürün isimleri veya dahili kısaltmalar gibi kuruma özgü varlıkları her zaman tespit edemeyebilir. Sistem yalnızca İngilizce istemleri hedeflemiş ve üç rol (İK, Finans, Ar-Ge) ile sınırlandırılmıştır. Gelecek çalışmalar, çok dilli destek, kuruma özel NER modelleri, gerçek kurumsal verilerle ince ayar (fine-tuning) ve adaptif politika öğrenme mekanizmaları ile bu sınırlılıkları hafifletebilir. Sonuç olarak, PromptShield, üretken yapay zekâ çağında veri güvenliğine istem odaklı bakan yeni bir bakış açısı sunmaktadır. Tezin katkıları, istem düzeyi DLP kavramının uygulanabilir ve gerekli olduğunu göstermektedir. Semantik sınıflandırma, rol bazlı politika ve varlık duyarlı redaksiyonu bir araya getirerek, gerçek zamanlı ve bir çerçeve ortaya koymaktadır. Bu yaklaşım, kurumsal GenAI kullanımının güvenli, uyumlu ve sürdürülebilir bir biçimde ölçeklenebilmesi için önemli bir temel sunmaktadır. Ek olarak, bu çalışma üretken yapay zekâ kullanımının kurumsal güvenlik mimarileri üzerinde yarattığı dönüşümü de kavramsal açıdan tartışmaktadır. GenAI sistemlerinin klasik BT denetim yapılarıyla uyumsuzluğunun temel sebepleri arasında, veri akışının kontrol noktalarını aşarak doğrudan bulut tabanlı modellere yönelmesi, istem düzeyinde denetimin daha önce tanımlanmamış olması ve kullanıcıların veri sınıflandırmasını genellikle manuel biçimde, yani bilinçli bir karar süreci olmadan gerçekleştirmesi yer almaktadır. Bu bağlamda PromptShield, insan–makine etkileşiminde yeni bir güvenlik seviyesi oluşturarak, veri gizliliğini model eğitimi, çıktı filtreleme veya ağ denetimi yerine daha erken bir aşamada,“kullanıcı davranışının başladığı noktada”ele almayı önermektedir. Bu yaklaşım, zero-trust mimarileri ve veri minimizasyonu ilkeleri ile de uyumludur. Ayrıca tez sürecinde elde edilen bulgular, kurumların GenAI benimseme stratejilerinin yalnızca teknik güvenlik önlemleriyle değil, aynı zamanda kullanıcı farkındalığı, politika tanımları ve kurumsal yönetişim modelleriyle desteklenmesi gerektiğini göstermiştir. PromptShield'in Uyar + Redaksiyon mekanizması, kullanıcıları pasif birer muhatap olmaktan çıkarıp güvenli kullanım konusunda aktif bir öğrenme sürecinin parçası hâline getirmektedir. Her bir uyarı ve redaksiyon, kullanıcının veri duyarlılığını daha iyi kavramasına yardımcı olmaktadır. Böylece sistem, yalnızca teknik bir kontrol mekanizması değil, aynı zamanda davranışsal bir farkındalık aracı olarak da işlev görmektedir. Bu açıdan PromptShield, kurumsal GenAI yönetişim stratejilerinin önemli bir bileşeni olmaya adaydır. Çalışmanın bir diğer önemli katkısı, istem bazlı güvenlik değerlendirmesinin gelecekte daha geniş bir ekosistemle bütünleştirilebileceğini ortaya koymasıdır. Örneğin, istemlerin risk seviyeleri kurum içi Güvelik Bilgisi ve Olay Yönetimi (SIEM) çözümlerine gerçek zamanlı olarak aktarılabilir, kullanıcı bazlı risk skorları üretilebilir veya yüksek riskli senaryolarda ek kimlik doğrulama adımları devreye alınabilir. Benzer şekilde rol bazlı politikalar, gelecekte departman, proje, veri sınıfı veya hassasiyet etiketi gibi daha ince gruplara ayrılabilir. Bu sayede PromptShield, yalnızca bir istem filtresi değil, çok katmanlı bir AI güvenlik çerçevesinin merkezi bir bileşeni hâline gelebilir. Tüm bu değerlendirmeler ışığında PromptShield'in, üretken yapay zekâ ile çalışan kurumlar için yalnızca bugün ortaya çıkan riskleri azaltmakla kalmayıp, gelecekteki düzenlemelere, denetim gereksinimlerine ve kurumsal veri yönetimi standartlarına uyum sağlayabilecek esnek bir altyapı sunduğu görülmektedir. GenAI teknolojilerinin hızla evrilmesi, model parametrelerinin büyümesi, bağlamsal bellek özelliklerinin gelişmesi ve multimodal etkileşimlerin yaygınlaşması dikkate alındığında, istem düzeyinde kontrol mekanizmalarının daha da kritik hâle geleceği öngörülmektedir. Bu bağlamda PromptShield, ileride görüntü, ses ve belge içeriklerinin de istem olarak işlenebileceği çok modlu mimarilere genişletilebilir. Sonuç olarak, bu tez yalnızca bir prototip geliştirmekle kalmayıp, kurumsal GenAI kullanımında güvenlik paradigmasının yeniden düşünülmesi gerektiğine de işaret etmektedir. PromptShield, istem içeriğinin sınıflandırılması, politika tabanlı karar verme ve varlık düzeyinde redaksiyonu bir araya getirerek, hem güvenlik hem de kullanılabilirlik odağını dengede tutan yeni bir yaklaşım önermektedir. Bu yaklaşım, veri gizliliğini en erken temas noktasında uygulayarak sızıntı riskini azaltmakta ve modern işletmelerin güvenli GenAI kullanımına geçişini desteklemektedir. Tez kapsamında geliştirilen mimari, ileride yapılacak akademik ve endüstriyel çalışmalar için hem teknik hem yönetsel açıdan sürdürülebilir bir temel sunmaktadır.
Özet (Çeviri)
Generative artificial intelligence (GenAI) systems that are capable of generating content, summarizing documents, analyzing trends, assisting with coding, and automating communications have altered the nature of knowledge work. However, this shift creates new security and privacy issues. Employees use free-form prompts when using large language models (LLMs), which often include personal identifiable information, financial data, proprietary research materials, and/or strategic corporate insights. Unlike typical enterprise software systems that operate in defined parameters, GenAI accept unrestricted text from users to provide a new, largely unprotected, data-exposure point. When users enter their prompts into cloud-based LLMs, the prompts are recorded, stored, used to enhance the model(s), and/or stored in regions over which organizations have no jurisdiction. These risks expose a significant weakness in current Data Loss Prevention (DLP) architectures. Present-day DLP architectures are focused primarily on monitoring email traffic, file uploads/downloads, data storage repositories, and/or user endpoints. Traditional DLP architectures focus on structured data flows and static content. Therefore, traditional DLP architectures are ineffective against the ephemeral, conversational nature of GenAI prompts residing temporarily in the interface before being sent to an Application Programming Interface (API). Furthermore, safety filters provided by LLM vendors are generally limited to controlling what a model produces after it receives the user's input, and do not prevent sensitive information from being communicated to an LLM in the first place. The objective of this dissertation is to close this gap by providing a Client Side, Policy-Aware, Real Time Data Loss Prevention (DLP) Framework (PromptShield) that is designed to protect GenAI prompts from users entering sensitive information. PromptShield functions as an interceptive layer that examines each user input prior to submission to an LLM. To accomplish this goal, PromptShield was developed to perform lightweight computations with a low-latency response while seamlessly integrating into existing enterprise workflows. The PromptShield framework is comprised of three interconnected components which are semantic classifier, a role-based policy engine, and an entity-aware redaction component. The semantic classifier utilizes a combination of MiniLM Sentence Embeddings and a Random Forest (RF) Model to classify user prompts as either Safe, Risky, or Confidential. The output of the classifier provides a baseline risk assessment, which is further enriched by the role-based policy engine. The role-based policy engine takes the classification produced by the semantic classifier and maps it to a user-defined Allow, Warn, or Block action based upon the user's organizational role. The entity-aware redaction component of the system will enable users to anonymize sensitive entities that are identified by the system as part of the Named Entity Recognition (NER) process. The combination of this entity-aware redaction capability along with the other described capabilities provide for a trade-off between providing high levels of protection for the data, while minimizing disruption in the user's workflow. For the purposes of training the dataset consisted of 900 generated enterprise prompts spread evenly across the domains of Human Resources, Finance, and Research \& Development. Each prompt included a sensitivity label. A test set of 435 unseen prompts were utilized to evaluate the generalizability of the classifier. The classifier performed with an average accuracy of 72.92\%. Compared to large transformer models, the accuracy may be slightly lower; however, it is suitable for a real-time client-side application optimized for speed and response. Examination of the confusion matrix shows that the majority of misclassifications occur between Safe and Risky categories. Misclassifications within the borderline categories, e.g.,“Can I review the salary distribution data for trend analysis?”is not directly indicative of HR-related confidential information, yet does reference a potential source of HR-confidential information indirectly. Contextual subtleties, such as these, are difficult for the lightweight embedding models to recognize. However, the classifier demonstrated a very high recall rate for the Confidential category, thus minimizing the risk of high-risk false-negatives. The role-based policy engine demonstrated its capability to dynamically adjust the risk assessments based on the role of the user. In particular, HR-related prompts were frequently classified as Warning because they contained personal identifiers and internal employee data. Conversely, Finance-related prompts had a much more relaxed pattern, reflecting the organization-wide norms governing the handling of transactional/budgetary information with fewer constraints. Meanwhile, R\&D-related prompts showed the highest percentage of Block actions, consistent with the strictest confidentiality standards of research domains. This variation supports the notion that DLP enforcement must be context-aware, i.e., the same sensitivity classification can represent different levels of risk depending on the department utilizing the LLM. The redaction module was evaluated qualitatively and demonstrated the ability to effectively mask sensitive information while maintaining the integrity of the original sentence structure. The redaction module relied on Named Entity Recognition (NER) to identify various types of high-risk expressions common to enterprise prompts, including PERSON, ORG, Geo-Political Entity (GPE), MONEY, DATE, and Location (LOC). These Redacted Outputs retained structural coherence so that users were able to modify their prompt without losing its intended meaning. One of the major usability issues that are inherent in traditional DLP solutions is that they completely block all of the content and the user either becomes frustrated or will find ways to circumvent it. With the ability for users to safely reformulate their original content, PromptShield allows organizations to protect their data by maintaining productivity. To demonstrate the practicality of implementing PromptShield in real world business environments, the entire PromptShield pipeline was evaluated to determine processing time. The total processing time for the PromptShield pipeline (embedding, classification, policy mapping and optionally redacting) was approximately 120-150 milliseconds per prompt when run on a standard laptop with no GPU acceleration. These results indicate that the PromptShield System could be run on user's local machines without negatively impacting perceived performance from the user; therefore it is suitable for various use cases including browser add-ons, chat interfaces, Integrated Development Environments (IDE), and Corporate Communication Platforms. The discussion of results highlights that although PromptShield performs well in all key areas of evaluation, there are still several challenges to overcome. The most significant limitation is detecting sensitivity in prompts where risk is inferred through implied context rather than explicit entities. Higher precision in these contexts may be achievable through the use of domain-specific embeddings, or through hybrid models that utilize metadata during inference. A second limitation of PromptShield is its reliance on general-purpose NER. While general-purpose NER is effective for identifying common entity types, it may fail to identify organization-specific identifiers, such as internal project codes, proprietary acronyms, or confidential system labels. Future work may include fine-tuning NER models on domain-specific datasets. Also, Adaptive learning from user feedback, behavior based analytics or risk scoring will be important in developing a more responsive and dynamic enforcement mechanism for PromptShield in the future since current policy is static. In spite of these limitations, the results indicate that prompt-level DLP is technically feasible and strategically necessary for modern organizations. PromptShield closes a significant gap created by traditional cybersecurity tools and LLM vendor safety mechanisms by focusing on the input stage of human and Artificial Intelligence (AI) interactions. PromptShield presents a unique, practical, and effective way to prevent unintended data leakage in environments where employees increasingly rely on GenAI systems. The design of PromptShield makes it easy to integrate into production environments due to its light-weight design, modular architecture, and ease of integration. Ultimately, the thesis demonstrates how PromptShield fills an urgent need for enterprises, while establishing a solid base for developing the next generation of AI governance, responsible AI deployment, and data protection enterprise models. The work is part of a large body of research which emphasizes the need for transparency, user-centered development, and real-time control with regard to AI systems. With continued use of GenAI by companies, as such as PromptShield, frameworks will be increasingly important in protecting confidentially, assuring compliance, and managing ethically data while providing productivity.