बैंकिंग में Generative AI: Use Cases, Risks और Governance (CAIIB ITDB)
बैंकिंग में Generative AI अब sandbox pilots से निकलकर RBI-नियंत्रित संस्थाओं के production workflows में उपयोग हो रहा है, और CAIIB ITDB के उम्मीदवारों को इस तकनीक और इसके guardrails (सुरक्षा उपायों) दोनों को समझना आवश्यक है। Large Language Models (LLMs) अब credit appraisal notes तैयार करते हैं, loan files का सारांश (summary) बनाते हैं, और आंतरिक policy manuals के आधार पर staff के प्रश्नों के उत्तर देते हैं। लेकिन हर deployment के साथ hallucination risk (भ्रामक जानकारी का जोखिम), data-leakage risk (डेटा लीक होने का जोखिम) और model-governance से जुड़े दायित्व भी आते हैं, जिन्हें परीक्षक सीधे टेस्ट करते हैं। यह लेख व्यावहारिक use cases, वह retrieval architecture जिसका उपयोग बैंक LLM के उत्तरों को वास्तविक policy text पर आधारित (ground) करने के लिए करते हैं, और वे human-in-the-loop नियंत्रण दर्शाता है जो बैंकिंग में Generative AI को सुरक्षित, auditable (लेखा-परीक्षा योग्य) और परीक्षा के लिए तैयार बनाए रखते हैं।
🤖 बैंकों में Generative AI वर्तमान में कहाँ Live है
अधिकांश भारतीय बैंक अब generative AI को तीन layers में चला रहे हैं: employee copilots, customer-facing assistants, और back-office automation। Relationship managers, credit committee review से पहले credit proposal notes तैयार करने और financial statements का सारांश बनाने के लिए LLM copilots का उपयोग करते हैं। Contact centre staff को AI-suggested draft replies मिलते हैं, जिन्हें भेजने से पहले एक human agent edit करता है। Compliance teams लंबे circulars और आंतरिक policy documents का first-pass सारांश बनाने के लिए LLMs का उपयोग करती हैं, जिससे routine कार्यों पर review का समय कम होता है।
इनमें से कोई भी use case core transaction processing की जगह नहीं लेता — ये उसके साथ-साथ काम करते हैं। एक GenAI copilot कभी भी ledger में entry पोस्ट नहीं करता या disbursal trigger नहीं करता; यह केवल text draft करता है या मानव द्वारा कार्रवाई के लिए जानकारी सामने लाता है। परीक्षा के लिए यह अंतर महत्वपूर्ण है: GenAI मौजूदा IT infrastructure के ऊपर एक सहायक (assistive) layer है, core banking solution का विकल्प नहीं। Information Technology and its Implications में शामिल आधारभूत ढांचे को दोहराने वाले उम्मीदवारों को GenAI use cases को बैंक IT के उसी layered दृष्टिकोण पर मैप करना चाहिए — infrastructure, applications, और अब उसके ऊपर एक AI assistance layer।
Underwriting support एक और बढ़ता हुआ use case है: LLMs application data को policy thresholds के विरुद्ध cross-check करते हैं और missing documents को flag करते हैं, लेकिन वास्तविक sanction decision credit officer के पास ही रहता है। यह विभाजन — AI draft करता है, मानव निर्णय लेता है — इस विषय क्षेत्र में सबसे अधिक परीक्षित विचार है, और यह नीचे हर section में दोहराया जाता है।
🔍 Policy Documents पर Retrieval-Augmented Generation
एक raw LLM उस जानकारी से उत्तर देता है जो उसने training के दौरान याद की थी, जो एक cutoff date पर freeze हो जाती है और शुरू से ही bank-specific भी नहीं होती। यह किसी live policy प्रश्न के लिए असुरक्षित है — कोई rate, threshold, या KYC नियम तब से बदल चुका हो सकता है। Retrieval-augmented generation (RAG) एक retrieval step जोड़कर इसे ठीक करता है: बैंक के circulars, product manuals और SOPs को vector embeddings में बदलकर एक searchable index में संग्रहीत किया जाता है, और जब कोई query आती है, तो सिस्टम पहले सबसे relevant document passages को retrieve करता है, फिर उन्हें प्रश्न के साथ LLM prompt में feed करता है। मॉडल memory के बजाय उस retrieved text से उत्तर देता है।
यही कारण है कि RAG deployments ठोस data-management fundamentals पर निर्भर करते हैं — indexing, retrieval accuracy, और document freshness, सभी की जड़ें Database Management Systems की अवधारणाओं में हैं। एक खराब indexed या पुराना (stale) document store, एक अच्छे मॉडल के साथ भी आत्मविश्वास से गलत उत्तर देता है। Retrieval pipelines बैंक के internal network और API layer पर भी चलती हैं, इसलिए Networking Systems में दिए गए connectivity और access-control से जुड़ी अवधारणाएं सीधे लागू होती हैं — एक RAG system जो उचित access segmentation के बिना customer databases तक पहुंच सकता है, वह होने वाली एक governance विफलता है।
📌 याद रखें: RAG hallucination risk को समाप्त नहीं करता, केवल कम करता है — मॉडल अब भी retrieved passages को गलत तरीके से पढ़ या मिला (blend) सकता है, इसीलिए output की समीक्षा (review) अनिवार्य बनी रहती है।
⚠️ Hallucination और Data-Leak Risk
इस विषय पर दो अलग-अलग जोखिम हावी रहते हैं, और CAIIB के प्रश्न अक्सर यह टेस्ट करते हैं कि उम्मीदवार इनमें अंतर कर सकते हैं या नहीं। Hallucination एक accuracy विफलता है: मॉडल ऐसा text उत्पन्न करता है जो सुनने में सही लगता है लेकिन वास्तव में उसके source data से समर्थित नहीं होता — जैसे कोई गढ़ा हुआ clause number, गलत interest rate, या मनगढ़ंत case reference। Data leakage एक confidentiality विफलता है: संवेदनशील customer या policy data बैंक के controlled environment से बाहर चला जाता है, आमतौर पर इसलिए क्योंकि किसी employee ने गोपनीय जानकारी किसी सार्वजनिक, internet-hosted LLM tool में paste कर दी, जो user inputs को train करने या log करने के लिए उपयोग करता है।
⚠️ सामान्य गलती: "AI आत्मविश्वास से भरा लग रहा था" को accuracy का प्रमाण मान लेना। Generative models में confidence और correctness का कोई संबंध नहीं होता — हर hallucinated उत्तर उतनी ही धाराप्रवाह (fluent) भाषा में लिखा होता है जितना कि एक सही उत्तर।
Prompt injection RAG systems से जुड़ा एक तीसरा संबंधित जोखिम है: retrieval corpus में मौजूद कोई malicious या malformed document ऐसे छिपे हुए instructions रख सकता है जो prompt में retrieve होने पर मॉडल के व्यवहार को दिशा बदलने (redirect) का प्रयास करते हैं। बैंक इसे input sanitisation से और शुरुआत में ही यह सीमित करके कम करते हैं कि कौन-से document sources retrieval के लिए योग्य हैं।
| जोखिम | सामान्य कारण | सार्वजनिक LLM Tool | Governed In-House RAG |
|---|---|---|---|
| Hallucinated तथ्य | सत्यापित source text में grounding न होना | ❌ उच्च जोखिम | ✅ retrieval + review से कम |
| Customer data leakage | गोपनीय data को external tool में paste करना | ❌ उच्च जोखिम | ✅ Data बैंक की परिधि (perimeter) के भीतर रहता है |
| Prompt injection | retrieved document में छिपा malicious text | ❌ अनियंत्रित | ✅ Source vetting + sanitisation |
| पुराने (stale) उत्तर | मॉडल का frozen training data पर निर्भर रहना | ❌ सामान्य | ✅ live document retrieval से कम |
🛡️ Model Governance और Human-in-the-Loop Controls
Governance वह क्षेत्र है जहां परीक्षा में institutional-process से जुड़े उत्तर अपेक्षित होते हैं, technical उत्तर नहीं। Generative AI के लिए बैंक के model risk management framework में सामान्यतः यह शामिल होता है: हर LLM use case की एक documented risk rating के साथ inventory; किसी मॉडल के customer-facing output को छूने से पहले sign-off; accuracy drift और bias के लिए समय-समय पर testing; regulated decisions के लिए prompts और outputs का logged audit trail; और किसी भी AI-drafted output के final customer communication, credit decision, या regulatory filing बनने से पहले एक human-in-the-loop checkpoint।
भारतीय रिज़र्व बैंक (RBI) ने बैंकों को open-ended प्रयोग के बजाय इस प्रकार के structured, accountable adoption की दिशा में प्रेरित किया है, जो इसके इस व्यापक रुख के अनुरूप है कि responsible AI को explainability, fairness और परिणामों के लिए स्पष्ट मानवीय accountability बनाए रखनी चाहिए — यही accountability सिद्धांत तब भी लागू होता है चाहे AI-सहायता प्राप्त क्षेत्र credit underwriting हो या, एक अलग विषय क्षेत्र में जैसे foreign exchange risk management in banks, जहां AI-generated exposure summaries को भी hedge decision execute करने से पहले treasury officer के sign-off की आवश्यकता होती है।
Human-in-the-loop कोई एक बार का gate नहीं है; यह layered है। एक junior officer AI draft की समीक्षा करता है, एक supervisor अंतिम निर्णय को validate करता है, और periodic model audits पूरी pipeline को drift के लिए जांचते हैं। यही layered review इस बात का भी कारण है कि GenAI rollouts को अक्सर network security in banking IT infrastructure में उपयोग किए जाने वाले उसी access-control discipline के साथ जोड़ा जाता है — core systems तक असीमित (unrestricted) access रखने वाला एक LLM उतना ही बड़ा governance जोखिम है जितना कि एक unpatched server।
💡 परीक्षा टिप: यदि कोई प्रश्न पूछता है कि "जब किसी AI-drafted credit note में त्रुटि होती है तो कौन जवाबदेह (accountable) है," तो उत्तर हमेशा human reviewer या approving officer होता है — मॉडल या vendor कभी नहीं।
उम्मीदवारों को इस विषय को अन्य विषयों से भी जोड़ना चाहिए: chatbots and conversational banking के अंतर्गत शामिल conversational assistants भी उसी governance ढांचे का उपयोग करते हैं, और chatbots व RAG copilots दोनों को data देने वाले underlying document stores data warehousing in banking का विषय हैं। ये तीनों व्यापक Information Technology and Digital Banking elective syllabus के अंतर्गत आते हैं और अक्सर एक ही पेपर में cross-test किए जाते हैं।
🎯 बैंकिंग में Generative AI के लिए परीक्षा की तैयारी
CAIIB ITDB के लिए, तीन विचारों को मजबूती से याद रखें: बैंकिंग में generative AI एक सहायक layer है जो draft और summarise करता है, RAG अपने उत्तरों को frozen training data के बजाय सत्यापित बैंक documents पर आधारित करता है, और governance विशेष रूप से इसलिए मौजूद है ताकि मॉडल द्वारा प्रभावित हर महत्वपूर्ण (material) निर्णय के लिए एक मानव जवाबदेह बना रहे। Hallucination और data-leak risk वे दो failure modes हैं जिन पर परीक्षक सबसे अधिक बार लौटते हैं, इसलिए किसी scenario प्रश्न में accuracy विफलता और confidentiality विफलता में अंतर करने के लिए तैयार रहें।
AI-विशिष्ट सामग्री जोड़ने से पहले computing और software architecture के आधारभूत chapters दोहराएं — Introduction to Computing जैसे basics पर कमज़ोर पकड़, governance और risk से जुड़े प्रश्नों को आवश्यकता से अधिक कठिन बना देती है। एक बार अवधारणाएं मजबूत हो जाएं, तो यह देखने के लिए कि समय के दबाव में यह विषय कैसे framed किया जाता है, iibf.store के CAIIB course पर exam-pattern प्रश्नों से स्वयं का परीक्षण करें।
🧠 Practice MCQs: बैंकिंग में Generative AI
Q1. किसी बैंक के LLM deployment में retrieval-augmented generation (RAG) का प्राथमिक उद्देश्य क्या है? (a) storage से पहले customer PII को encrypt करना (b) मॉडल के उत्तरों को उसकी frozen training memory के बजाय सत्यापित आंतरिक documents पर आधारित करना (c) core banking transaction processing को बदलना (d) शुरू से एक नया LLM train करना
उत्तर: (b) — RAG relevant, current document passages को retrieve करता है और उन्हें prompt में feed करता है ताकि मॉडल याद की गई training data के बजाय सत्यापित source text से उत्तर दे।
Q2. किसी generative AI बैंकिंग tool में "Hallucination" का अर्थ है: (a) peak hours के दौरान network downtime (b) मॉडल द्वारा प्रशंसनीय (plausible) परंतु तथ्यात्मक रूप से असमर्थित जानकारी उत्पन्न करना (c) data centre में hardware failure (d) database index का corruption
उत्तर: (b) — Hallucination एक accuracy विफलता है जिसमें मॉडल धाराप्रवाह (fluent), आत्मविश्वासपूर्ण text उत्पन्न करता है जो वास्तव में सत्यापित source data पर आधारित नहीं होता।
Q3. किसी AI-drafted credit note के अंतिम निर्णय बनने से पहले human-in-the-loop review अनिवार्य क्यों है? (a) यह पूरी तरह से वैकल्पिक (optional) बैंक नीति है (b) processing को कृत्रिम रूप से धीमा रखने के लिए (c) यह सुनिश्चित करने के लिए कि एक योग्य officer जवाबदेही बनाए रखे और मॉडल की त्रुटियां पकड़ सके (d) केवल बड़े-टिकट वाले loans के लिए यह आवश्यक है
उत्तर: (c) — अंतिम निर्णय के लिए accountability एक human reviewer के पास ही होनी चाहिए, क्योंकि मॉडल को स्वयं त्रुटियों के लिए जवाबदेह नहीं ठहराया जा सकता।
Q4. जब staff आंतरिक बैंक कार्य के लिए किसी public, internet-hosted generative AI tool का उपयोग करते हैं तो मुख्य data-leak जोखिम क्या है? (a) अधिक API subscription लागत (b) response latency में वृद्धि (c) गोपनीय customer या policy data का बैंक के controlled environment से बाहर निकलना (d) output की grammatical गुणवत्ता में कमी
उत्तर: (c) — गोपनीय data को किसी अनियंत्रित external tool में paste करने से यह जोखिम रहता है कि वह data बैंक की security perimeter के बाहर log, store या उपयोग हो सकता है।
Q5. किसी RAG pipeline में "prompt injection" जोखिम कब उत्पन्न होता है? (a) जब मॉडल की memory समाप्त हो जाती है (b) जब किसी malicious या malformed retrieved document में छिपे हुए instructions होते हैं जो मॉडल के व्यवहार को दिशा बदल देते हैं (c) जब vector index से network connection टूट जाता है (d) जब LLM vendor अपनी pricing plan बदलता है
उत्तर: (b) — चूंकि RAG retrieved document text को सीधे prompt में feed करता है, कोई untrusted document ऐसे instructions शामिल कर सकता है जिनका मॉडल पालन कर सकता है, जब तक कि sources की vetting और sanitisation न की जाए।
100+ MCQs वाले chapter-wise mock tests चाहिए? अभी मुफ्त अभ्यास शुरू करें →
क्या बैंकिंग में generative AI को अपने आप final credit decisions लेने की अनुमति है?
नहीं। भारतीय बैंकों में यह आवश्यक है कि AI-drafted credit recommendations के अंतिम निर्णय बनने से पहले एक human officer उनकी समीक्षा और approval करे, जिससे accountability मॉडल के बजाय एक योग्य employee के पास बनी रहे।
एक chatbot और RAG-based policy assistant में क्या अंतर है?
एक basic chatbot सामान्य training knowledge से उत्तर दे सकता है, जबकि एक RAG-based assistant उत्तर देने से पहले बैंक के वास्तविक, current circulars और manuals को retrieve करता है, जिससे पुराने या गढ़े हुए (invented) उत्तरों की संभावना कम हो जाती है।
बैंक आंतरिक कार्य के लिए general-purpose chatbot जैसे public tools का सीधे उपयोग क्यों नहीं कर सकते?
Public, internet-hosted AI tools submitted text को log या retain कर सकते हैं, जिससे यदि गोपनीय customer या policy जानकारी दर्ज की जाए तो data-leakage का जोखिम बनता है, इसलिए बैंक आमतौर पर इसके बजाय governed, in-house या contractually controlled models तैनात (deploy) करते हैं।
क्या RAG hallucination risk को पूरी तरह समाप्त कर देता है?
नहीं। RAG उत्तरों को retrieved documents पर आधारित करके hallucination को कम करता है, लेकिन मॉडल अब भी passages की गलत व्याख्या या गलत मिश्रण (blend) कर सकता है, इसलिए AI output की human review एक आवश्यक नियंत्रण बनी रहती है।
Quick quiz on this topic
5 exam-style questions from our free test bank — check yourself before you move on.
Practice this topic
मुफ़्त मॉक टेस्ट दें, चैप्टर PDF डाउनलोड करें या वीडियो क्लास देखें — सब iibf.store पर मुफ़्त है।
पढ़ना जारी रखें
