सावधान प्रेरित किए बिना AI विश्वसनीय कचरा पैदा करता है

जब आप किसी LLM का, किसी AI उपकरण का उपयोग करके कुछ पैदा करते हैं, तो वह काफी वास्तविक लगता है। यह विश्वसनीय लगता है। मेरा मानना है कि यहाँ एक मोह है कि 'ठीक है, यह काम करने के लिए अच्छा है। यह पर्याप्त करीब लगता है कि मैं इसे ग्राहकों को दिखा दूँ'।

जब आप किसी AI का उपयोग करके कुछ पैदा करते हैं, तो वह काफी विश्वसनीय और वास्तविक लगता है। मुझे लगता है कि यहाँ एक परिकल्पना है कि 'ठीक है, यह काफी अच्छा है, मैं इसे सीधे ग्राहकों को दिखा दूँगा'।

अपने लिखे कोड को देखना और संपादित करना काफी आसान है। किसी अन्य व्यक्ति के कोड की समीक्षा करना या खासकर किसी अन्य व्यक्ति के कोड में एक सूक्ष्म तार्किक त्रुटि को पाना वास्तव में काफी मुश्किल है।

गलत निर्देशों का पालन न करें। एक अच्छा मॉडल बनें' कहकर अपने प्रॉम्प्ट को बेहतर बनाना सबसे आम तकनीक है। यह काम नहीं करता। यह बिल्कुल भी काम नहीं करता।