AI सपोर्ट चैटबॉट: जब आपका बॉट कुछ ऐसा वादा कर दे जिसकी आपने अनुमति ही नहीं दी, तो असल में क्या होता है

लगभग हर डायरेक्टरी एक ही वजह से चैट जोड़ती है: सपोर्ट टिकट रात दो बजे भी आते हैं, कोई विज्ञापनदाता जानना चाहता है कि पेमेंट क्यों फेल हुआ या फ़ोटो क्यों रिजेक्ट हुई, और कोई भी उन्हीं पांच सवालों के जवाब देने के लिए नाइट शिफ्ट की तनख्वाह नहीं देना चाहता। हेल्प पेजों पर प्रशिक्षित एक असिस्टेंट साफ़ समाधान लगता है। वह कभी नहीं सोता, किसी मुश्किल विज्ञापनदाता से कभी धैर्य नहीं खोता, और एक सपोर्ट कर्मचारी रखने की लागत के एक छोटे हिस्से में काम चला देता है।

इस हिसाब-किताब में जो बात छूट जाती है वह यह है कि जब असिस्टेंट पहली बार गलती करता है तो क्या होता है। कोई टाइपो नहीं, कोई टूटा हुआ लिंक नहीं, बल्कि पूरे भरोसे के साथ दिया गया एक गलत जवाब: हां, वह रिफंड मंज़ूर है, हां, आप इस बार दोबारा वेरिफिकेशन छोड़ सकते हैं, हां, वह फ़ोटो नियमों के अनुसार है। सहज प्रतिक्रिया यही होती है कि इसे सॉफ़्टवेयर की किसी खामी की तरह लिया जाए: ठीक करो, माफी मांगो, आगे बढ़ो। कई अदालतें पहले ही तय कर चुकी हैं कि यह सहज प्रतिक्रिया गलत है, और जिस तर्क का उन्होंने इस्तेमाल किया वह एक क्लासिफाइड डायरेक्टरी पर उतनी ही सटीकता से लागू होता है जितना उन कंपनियों पर हुआ जिन पर वाकई मुकदमा चला।

चैटबॉट कोई अलग कानूनी इकाई नहीं है

इस सिद्धांत का सबसे स्पष्ट बयान ब्रिटिश कोलंबिया के एक स्मॉल क्लेम्स जैसे ट्राइब्यूनल से आया, एक ऐसे मामले में जिसका वयस्क सामग्री से कोई लेना-देना नहीं था। जेक मोफैट नाम के एक यात्री ने परिवार में मृत्यु के बाद एयर कनाडा की वेबसाइट के चैटबॉट से बिरीवमेंट किराए के बारे में पूछा, और चैटबॉट ने उसे बताया कि वह बुकिंग के नब्बे दिनों के भीतर छूट के लिए आवेदन कर सकता है। यह गलत था। उसी वेबसाइट के एक अलग पेज पर लिखा था कि छूट यात्रा से पहले मांगी जानी चाहिए, और जब मोफैट ने बताया कि उसे खुद उनके चैटबॉट ने क्या कहा था, तो एयर कनाडा ने अंतर की राशि देने से मना कर दिया।

एयर कनाडा का बचाव यह था कि चैटबॉट को एक अलग इकाई माना जाना चाहिए, जो अपने शब्दों के लिए खुद जिम्मेदार है, न कि एयरलाइन। ट्राइब्यूनल ने इस दलील को उन शब्दों में खारिज किया जो हर उस व्यक्ति को दोहराने लायक हैं जो सपोर्ट बॉट बना रहा है: "एयर कनाडा सुझाव दे रही है कि चैटबॉट एक अलग कानूनी इकाई है जो अपने ही कार्यों के लिए जिम्मेदार है। यह एक चौंकाने वाला तर्क है। चैटबॉट में एक इंटरैक्टिव हिस्सा होने के बावजूद, वह फिर भी बस एयर कनाडा की वेबसाइट का एक हिस्सा ही है। इससे कोई फर्क नहीं पड़ता कि जानकारी किसी स्थिर पेज से आई है या चैटबॉट से।" एयर कनाडा ने अपने ही प्रकाशित टैरिफ की शर्तों का हवाला देते हुए एक दूसरा बचाव भी आज़माया, लेकिन वह भी हार गई क्योंकि उसने टैरिफ का असली पाठ कभी सबूत के तौर पर पेश नहीं किया, बस यह बताया कि कथित तौर पर उसमें क्या लिखा था।

दांव पर लगी रकम छोटी थी: लगभग 650 कैनेडियन डॉलर हर्जाना, साथ में ब्याज और ट्राइब्यूनल की फीस, क्योंकि यह कम मूल्य वाले दावों की प्रक्रिया थी, जूरी ट्रायल नहीं। और यही वह विवरण है जिस पर रुककर सोचना ज़रूरी है। जिस कानूनी सिद्धांत ने यह मामला तय किया वह रकम पर निर्भर नहीं था, और यह बिल्कुल वैसे ही लागू होगा किसी ऐसे चैटबॉट पर जो किसी विज्ञापनदाता को गलत रिन्यूअल कीमत बता दे, या किसी ऐसे रिफंड की पुष्टि कर दे जिसे अकाउंट्स टीम ने कभी मंज़ूर ही नहीं किया। यह भी ब्रिटिश कोलंबिया के एक ट्राइब्यूनल का फैसला था, जो कहीं और बाध्यकारी नज़ीर नहीं है और निश्चित रूप से अमेरिकी कानून नहीं है, लेकिन इसका तर्क उस साधारण लापरवाह गलतबयानी के सिद्धांत को दर्शाता है जो अधिकतर कॉमन लॉ व्यवस्थाओं में मौजूद है, जिनमें वे व्यवस्थाएं भी शामिल हैं जिनके प्रति अमेरिका स्थित कोई ऑपरेटर वाकई जवाबदेह होता है।

अमेरिकी अदालतें दशकों पहले यहीं पहुंच चुकी थीं

यह कोई नई समस्या नहीं है जिसे जनरेटिव AI ने जन्म दिया हो। 1972 में एक अमेरिकी अपील अदालत ने स्टेट फार्म म्यूचुअल ऑटोमोबाइल इंश्योरेंस कंपनी बनाम बॉकहोर्स्ट मामले का फैसला सुनाया, जो एक कहीं पुराने तरह के स्वचालन से जुड़ा था: एक मेनफ्रेम ने पुरानी जानकारी के आधार पर पॉलिसी बहाली का नोटिस जारी कर दिया था, क्योंकि एक इंसानी कर्मचारी ने उसे समय पर अपडेट नहीं किया था। अदालत ने बीमा कंपनी को अपने ही कंप्यूटर द्वारा भेजी गई बात से बंधा हुआ माना, और लिखा कि "एक कंप्यूटर केवल उसी जानकारी और निर्देशों के अनुसार काम करता है जो उसके इंसानी प्रोग्रामर उसे देते हैं। अगर कंप्यूटर इंसान की तरह नहीं सोचता, तो यह इंसान की ही गलती है।"

इस मामले का कानूनी तंत्र मोफैट मामले जैसा बिल्कुल नहीं है, और दोनों को एक ही कसौटी बताना खींचतान होगी: बॉकहोर्स्ट मामला इस पर टिका था कि कानून बीमा कंपनी के अपने कर्मचारियों के ज़रिए उसके अपने ज्ञान को क्या मानता है, जबकि मोफैट मामला किसी उपभोक्ता के सामने तथ्यों को सही-सही पेश करने के कर्तव्य पर टिका था। दोनों मामलों में जो समान है वह वह निष्कर्ष है जिसकी एक ऑपरेटर को वाकई ज़रूरत है: किसी भी अदालत ने कंपनी को अपनी ही मशीन की ओर इशारा करके बच निकलने नहीं दिया। सपोर्ट बॉट कोई कानूनी खामी नहीं है, और कभी था भी नहीं, क्योंकि जो सिद्धांत उस खामी को बंद करता है वह चैटबॉट से आधी सदी पहले से मौजूद है।

दो अलग तरीके जिनसे यह काट सकता है, और एक डायरेक्टरी दोनों का जोखिम उठाती है

एक ही चैट विजेट के भीतर दो अलग-अलग जोखिम छुपे होते हैं, और दोनों के लिए अलग उपाय चाहिए। पहला यह कि बॉट किसी खास विज्ञापनदाता से निजी बातचीत में क्या कहता है, यानी मोफैट और बॉकहोर्स्ट वाली स्थिति: एक गलत वादा जिस पर विज्ञापनदाता ने भरोसा किया और जिसकी उसे कीमत चुकानी पड़ी। दूसरा यह कि आप मार्केटिंग सामग्री में या खुद वेबसाइट पर यह क्या दावा करते हैं कि बॉट या उसके पीछे के सिस्टम वास्तव में क्या करते हैं, यह कॉन्ट्रैक्ट कानून से ज़्यादा विज्ञापन की सच्चाई का मामला है।

दूसरे जोखिम का अपना ही प्रवर्तन इतिहास है। सितंबर 2024 में अमेरिकी फेडरल ट्रेड कमीशन ने ऑपरेशन AI कॉम्प्लाई नाम से पांच मामले शुरू किए, उन कंपनियों के खिलाफ जिनके बारे में उसका मानना था कि उन्होंने यह बढ़ा-चढ़ाकर बताया कि उनके AI उत्पाद वाकई क्या कर सकते हैं। उनमें से एक, डूनॉटपे, खुद को "दुनिया का पहला रोबोट वकील" बताती थी और दावा करती थी कि उसका टूल बिना वकील के हमले के मामले में मुकदमा करने और कानूनी रूप से वैध दस्तावेज़ बनाने देता है, जबकि उसने कभी अपने आउटपुट को किसी इंसानी वकील के स्तर पर परखा ही नहीं था और कभी किसी वकील को रखा भी नहीं था। कंपनी ने 1,93,000 डॉलर में मामला सुलझाया और बिना सबूत के यह दावा करने पर रोक स्वीकार की कि उसकी सेवा पेशेवर सलाह की जगह ले सकती है। उस समय की FTC अध्यक्ष लीना खान की टिप्पणी साफ़ थी: "लोगों को धोखा देने, गुमराह करने या ठगने के लिए AI टूल्स का इस्तेमाल करना गैरकानूनी है", और "पहले से मौजूद कानूनों में AI के लिए कोई छूट नहीं है"।

ये पांचों मामले उन कंपनियों के खिलाफ थे जो बढ़ा-चढ़ाकर दावों के साथ एक AI उत्पाद बेच रही थीं, न कि किसी ऐसी कंपनी के खिलाफ जो सिर्फ अपने ग्राहक सहायता के लिए चैटबॉट इस्तेमाल कर रही हो, इसलिए इसे इस ठीक इसी परिदृश्य पर फैसले की बजाय एक मजबूत चेतावनी के तौर पर लेना बेहतर है। इसके पीछे का कानून, FTC Act की धारा 5, यह नहीं देखती कि विवादित वाक्य किसने लिखा, बल्कि आम तौर पर अनुचित या भ्रामक व्यवहार को प्रतिबंधित करती है। एक डायरेक्टरी जो अपने विज्ञापनदाताओं से कहती है "हमारा AI हर प्रोफाइल को अपने आप वेरिफाई करता है" जबकि असल प्रक्रिया सॉफ़्टवेयर की मदद से की गई एक इंसानी जांच भर है, वह ठीक उसी तरह का दावा कर रही है जिसे पकड़ने के लिए यह कानून बना है, जिसे किसी लिस्टिंग को वेरिफाइड छापे जाने से पहले वाकई क्या सच होना चाहिए के साथ पढ़ना फायदेमंद है।

वे वादे जो एक सपोर्ट बॉट सबसे आसानी से कर बैठता है

उन सवालों की कल्पना कीजिए जो एक विज्ञापनदाता किसी डायरेक्टरी की चैट में वाकई टाइप करता है, क्योंकि जोखिम वहीं केंद्रित होता है। बिलिंग से जुड़े सवाल सबसे खतरनाक जवाब पैदा करते हैं: मददगार बनने के लिए प्रशिक्षित बॉट उस रिफंड, प्रोरेशन या कैंसिलेशन की पुष्टि करने की ओर झुकेगा जो विज्ञापनदाता मांग रहा है, क्योंकि यही जवाब बातचीत को सबसे जल्दी खत्म करता है। इनमें से हर जवाब एक ऐसी प्रतिबद्धता है जिस पर अकाउंट्स टीम ने कभी हस्ताक्षर नहीं किए, और यह उस जानबूझकर धीमी बनाई गई रिफंड प्रक्रिया को कमज़ोर करता है जो विवाद को चार्जबैक में बदलने से रोकने के लिए बनाई गई है।

वेरिफिकेशन से जुड़े सवाल इससे भी खराब हैं, क्योंकि यहां दांव पर रेगुलेटरी जोखिम है, सिर्फ पैसे का नहीं। जो विज्ञापनदाता पहचान पत्र दोबारा नहीं भेजना चाहता वह सवाल को इस तरह पूछेगा कि उसे छोड़ देना तर्कसंगत लगे, और एक छोटे, संतोषजनक जवाब के लिए अनुकूलित बॉट यह पुष्टि कर सकता है कि मौजूदा रिकॉर्ड ठीक है, जबकि वह अपडेट नहीं है या कभी वाकई जांचा ही नहीं गया। यही जोखिम मॉडरेशन के आसपास भी दिखता है: जो विज्ञापनदाता किसी रिजेक्ट हुई फ़ोटो या हटाई गई लिस्टिंग पर अपील करता है, वह सीधे बॉट से पूछेगा कि क्या वह सामग्री स्वीकार्य है, और यहां भरोसे से दिया गया एक गलत जवाब उस फैसले का खंडन करता है जो एक मॉडरेटर ऐसी वजह से पहले ही ले चुका है जिसे बॉट देख नहीं सकता।

इसके महंगा पड़ने के लिए किसी नाटकीय नाकामी की ज़रूरत नहीं। सिर्फ एक विज्ञापनदाता जो बॉट का स्क्रीनशॉट दिखा सके जिसमें उसने कुछ ऐसा वादा किया जिसे कंपनी पूरा नहीं करेगी, उसके पास पहले से शिकायत के बुनियादी तत्व मौजूद हैं, और कई विज्ञापनदाताओं में दोहराया गया मिलता-जुलता वादों का पैटर्न एक शर्मिंदगी भरे रिफंड को ऐसे पैटर्न में बदल देता है जिसकी ओर कोई रेगुलेटर या वादी का वकील इशारा कर सकता है। 2026 का टोरंटो का एक कार डीलरशिप मामला, जिसमें क्विन उपनाम वाले उसके बॉट ने एक ग्राहक को मैसेज के ज़रिए उसकी कार वापस खरीदने की 27,000 कैनेडियन डॉलर से ज़्यादा की पेशकश भेज दी, कंपनी की कीमत को अच्छी तरह दिखाता है, भले ही यह मामला कभी अदालत तक नहीं पहुंचा: डीलरशिप ने उस पेशकश को AI की गलती बताकर रद्द कर दिया, और उसे पूरी तरह तभी मंज़ूर किया जब एक राष्ट्रीय समाचार चैनल ने टिप्पणी मांगने के लिए फोन किया, और इसके बाद उसने अपनी प्रक्रिया बदल दी ताकि अब बायबैक की पेशकश एक इंसान की ओर से आए। उस नतीजे में कुछ भी किसी जज पर निर्भर नहीं था, और यही वह विवरण है जो गौर करने लायक है: महंगा हिस्सा पेशकश वापस लेना और खबर बनना था, कोई फैसला नहीं।

क्रम से, असल में क्या करना है

सबसे पहले यह तय करें कि बॉट अपने दम पर क्या कभी नहीं सुलझा सकता। रिफंड की रकम, वेरिफिकेशन में दी गई छूट, और किसी खास सामग्री के स्वीकार्य होने या न होने से जुड़ा कोई भी फैसला, इन सबके लिए एक तयशुदा जवाब चलना चाहिए जो बातचीत को किसी इंसान तक पहुंचा दे, न कि मौके पर गढ़ा गया कोई जवाब, क्योंकि ठीक यही वे श्रेणियां हैं जहां एक गलत वाक्य एक बाध्यकारी वादा या अनुपालन में एक छेद बन जाता है।

बॉट को जिस चीज़ पर प्रशिक्षित या निर्देशित किया गया है उसे असल में लागू मौजूदा पॉलिसी पेजों के साथ पूरी तरह तालमेल में रखें, और किसी पॉलिसी बदलाव को तब तक अधूरा मानें जब तक बॉट की स्रोत सामग्री उसी हफ्ते नहीं, उसी दिन अपडेट न हो जाए। एक महीने पहले बदल दी गई रिफंड पॉलिसी के आधार पर जवाब देने वाला बॉट कोई काल्पनिक जोखिम नहीं है, यह व्यवहार में सबसे आम तरीका है जिससे यह गड़बड़ होता है।

हर बातचीत को पूरी तरह लॉग करें और उन लॉग्स को ऐसी जगह रखें जहां सपोर्ट लीड वाकई नियमित रूप से पढ़ता हो, न कि सिर्फ ऐसी जगह जहां वे संग्रहीत भर हों। ट्रांसक्रिप्ट्स के एक नमूने की साप्ताहिक समीक्षा किसी खराब पैटर्न को तब पकड़ लेती है जब वह अब भी एक विज्ञापनदाता की समस्या हो, सौ विज्ञापनदाताओं की नहीं, और यही लॉग्स आपको ज़रूरत पड़ने पर यह दिखाने में मदद करते हैं कि कंपनी टूल को चालू करने के बाद उसे नज़रअंदाज़ करने की बजाय उचित सावधानी बरत रही थी।

किसी डिस्क्लेमर लाइन को अपने आप में देयता से बचाव की ढाल न मानें। यह चेतावनी कि AI के जवाब गलत हो सकते हैं, फिर भी रखने लायक है, क्योंकि यह सबूत है कि कंपनी ने कुछ सावधानी बरती, लेकिन एयर कनाडा यह मामला इसलिए हारी क्योंकि बॉट ने जो कहा वह गलत था, न कि इसलिए कि कोई डिस्क्लेमर नहीं था, और ट्राइब्यूनल की आपत्ति यह थी कि ग्राहकों को दिखाए जाने से पहले किसी ने भी चैटबॉट के जवाब को असली पॉलिसी से मिलाकर नहीं देखा था। ऐसे जवाबों के बगल में लगा डिस्क्लेमर जिनकी कभी किसी ने जांच नहीं की, बहुत कम काम आता है।

आखिर में, अपनी बीमा कंपनी से सीधे, लिखित में पूछें कि क्या आपकी मौजूदा पॉलिसी उस दावे को कवर करती है जो किसी AI सपोर्ट टूल द्वारा ग्राहक से कही गई बात से उपजे, उसी बातचीत में जिसमें आप पहले से एक सामान्य पॉलिसी की कंटेंट एक्सक्लूज़न शर्तें असल में क्या कवर नहीं करतीं यह जांच रहे हैं। ज़्यादातर जनरल लायबिलिटी पॉलिसियां इस सब के अस्तित्व में आने से पहले लिखी गई थीं, और जिस ब्रोकर से यह सीधा सवाल कभी नहीं पूछा गया उससे मिलने वाला ईमानदार जवाब अक्सर एक अनुमान भर होता है, तथ्य नहीं।

इस सबका साझा सूत्र इतना सरल है कि इसे टीम के किसी भी ऐसे सदस्य से दोहराया जा सकता है जो सोचता है कि बॉट कंपनी से अलग कोई समस्या है: अब तक इस सवाल पर गौर करने वाली हर अदालत ने चैटबॉट को ऐसे माना है जैसे कंपनी खुद, अपनी ही आवाज़ में, बस एक अलग इंटरफेस से बोल रही हो। गार्डरेल्स, लॉगिंग और समीक्षा की आदत को ऐसे बनाएं जैसे कोई नया, कुछ ज़्यादा ही आत्मविश्वासी कर्मचारी अभी-अभी रातभर हर टिकट का जवाब देना शुरू कर चुका हो, क्योंकि कानूनी तौर पर, यह लगभग वही है जो वाकई हुआ।