टॉक्सिसिटी डिटेक्टर डेटा कैप्चर एपीआई को टेक्स्ट के अंशों में विषाक्तता का विश्लेषण और वर्गीकरण करने के लिए डिज़ाइन किया गया है यह एपीआई संभावित रूप से हानिकारक सामग्री का सटीक आकलन करके सुरक्षित और सम्मानपूर्ण बातचीत के स्थानों को बनाए रखने में मदद करता है जब कोई टेक्स्ट इनपुट के रूप में प्रस्तुत किया जाता है तो सिस्टम एक समग्र विषाक्तता स्कोर स्पष्ट वर्गीकरण (जैसे "गैर विषाक्त" या "विषाक्त") और श्रेणीवार विस्तृत विश्लेषण लौटाता है जिसमें सामान्य विषाक्तता गंभीर विषाक्तता अश्लील भाषा धमकियाँ अपमान और पहचान आधारित नफरत शामिल हैं
उन्नत प्राकृतिक भाषा प्रसंस्करण (एनएलपी) मॉडलों के कारण यह एपीआई भाषा में सूक्ष्म बारीकियों की पहचान कर सकता है यहां तक कि उन अभिव्यक्तियों का पता लगा सकता है जो दुर्व्यवहार निष्क्रिय आक्रामकता या ध्रुवीकरण भाषा के रूप में छिपी होती हैं प्रत्येक विश्लेषण में स्वचालित निर्णयों या मानव सहायता प्राप्त समायोजन का समर्थन करने के लिए विश्वास स्तर शामिल होते हैं
विषाक्तता का पता लगाना - एंडपॉइंट फीचर्स
| ऑब्जेक्ट | विवरण |
|---|---|
रिक्वेस्ट बॉडी |
[आवश्यक] Json |
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7799/toxicity+detector+data+capture+api/12776/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| हेडर | विवरण |
|---|---|
Authorization
|
[आवश्यक] होना चाहिए Bearer access_key. जब आप सब्सक्राइब हों तो ऊपर "Your API Access Key" देखें। |
कोई लंबी अवधि की प्रतिबद्धता नहीं। कभी भी अपग्रेड, डाउनग्रेड या कैंसल करें। फ्री ट्रायल में 50 रिक्वेस्ट तक शामिल हैं।
एपीआई एक समग्र विषाक्तता स्कोर वापस करता है एक वर्गीकरण लेबल जैसे "गैर विषाक्त" या "विषाक्त" और विषाक्तता श्रेणियों का एक विस्तृत विवरण जैसे सामान्य विषाक्तता गंभीर विषाक्तता अश्लील भाषा धमकियाँ अपमान और पहचान आधारित नफरत
प्रतिक्रिया में प्रमुख क्षेत्र "toxicity_score" "classification" और श्रेणी विभाजन जैसे "general_toxicity" "severe_toxicity" "obscene" "threats" "insults" और "hate_speech" शामिल हैं प्रत्येक के साथ विश्वास स्तर जुड़े हुए हैं
प्रतिक्रिया डेटा एक JSON प्रारूप में संरचित है जिसमें एक मुख्य ऑब्जेक्ट है जो समग्र विषाक्तता स्कोर और वर्गीकरण को शामिल करता है उसके बाद प्रत्येक विषाक्तता श्रेणी के लिए नेस्टेड ऑब्जेक्ट हैं जो स्कोर और विश्वास स्तरों का विवरण देते हैं
POST एンドपॉइंट के लिए प्राथमिक पैरामीटर "टेक्स्ट" फ़ील्ड है जहां उपयोगकर्ता उस टेक्स्ट को इनपुट करते हैं जिसे वे विषाक्तता के लिए विश्लेषण करना चाहते हैं अतिरिक्त पैरामीटर में भाषा सेटिंग्स या विशिष्ट विषाक्तता श्रेणियां शामिल हो सकती हैं जिन पर ध्यान केंद्रित करना है
डेटा की सटीकता उन्नत प्राकृतिक भाषा प्रसंस्करण (NLP) मॉडलों के माध्यम से बनी रहती है जो नियमित रूप से अपडेट और विविध डेटा सेट पर प्रशिक्षित होती हैं ताकि वे सूक्ष्म भाषा की बारीकियों और विषाक्तता के विकसित अभिव्यक्तियों को पहचान सकें
सामान्य उपयोग के मामले में ऑनलाइन फोरम काModeration करना उपयोगकर्ता निर्मित सामग्री का विश्लेषण करना हानिकारक भाषा के लिए सामुदायिक दिशानिर्देशों को बढ़ाना और चैट एप्लिकेशनों में सुरक्षित संचार के लिए उपकरण विकसित करना शामिल हैं
उपयोगकर्ता लौटाए गए डेटा का उपयोग विषाक्तता स्कोर और वर्गीकरण को moderation कार्यप्रवाह में एकीकृत करके कर सकते हैं उच्च विषाक्तता स्तरों के लिए अलर्ट संलग्न करना या समुदाय की स्वास्थ्य और सुरक्षा का आकलन करने के लिए रिपोर्ट तैयार करना
गुणवत्ता जांचों में वास्तविक दुनिया के डेटा के खिलाफ निरंतर मॉडल मूल्यांकन उपयोगकर्ता फीडबैक लूप और प्रदर्शन मेट्रिक्स शामिल हैं ताकि यह सुनिश्चित किया जा सके कि एपीआई विभिन्न संदर्भों और भाषाओं में विषाक्तता को सही ढंग से पहचानता और वर्गीकृत करता है
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
16ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
2,507ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
2,378ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
2,697ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
0ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
1,043ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
5,497ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
4,485ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
3,641ms
सर्विस लेवल:
100%
रिस्पॉन्स टाइम:
6,721ms