Why ChatGPT gets lost, agrees with everything and makes things up, and what to type for each
The ChatGPT answers that cost you the most are the confident ones. The plan it called brilliant. The mistake it went back to after you corrected it. The name or the reference it gave you without hesitation, which turned out to be invented.
Each of those has a cause that researchers have measured or that the companies building these models have explained. A request that arrives in pieces makes a model guess the missing details early and build on the guess. Training on human ratings rewards agreeing with you. Scoring that gives a guess a chance and a blank a zero rewards guessing over "I don't know".
The fixes are things you type, so they work in ChatGPT, Claude, Gemini or any other chat assistant, on a free plan or a paid one. One setting in section 2 exists only in ChatGPT; everything else is a prompt.
If you came from the reel about long chats going off the rails, start with section 1. The reel about ChatGPT agreeing with everything is section 2, and the one about confident wrong answers is section 3. Section 4 puts all three fixes into one opening message and adds two checks for any answer you are about to act on.
Each section explains one problem through its cause, with the study or company post behind it, and ends with the exact words to use. The copy block at the bottom has every prompt in English, ready to paste.
Follow for more:
Course Registration: https://halaqa.app/enrollment?course=start-with-ai
A request sent in pieces makes it guess, then build on the guess
At the start of a chat it understands you from a few words. Twenty messages later it brings back the thing you told it to drop. The obvious suspect is the length of the chat. What has been measured is narrower: the request reached the model in pieces. Researchers at Microsoft Research and Salesforce Research gave 15 language models the same tasks two ways, once with the whole request in a single message and once with the same information revealed over several messages (LLMs Get Lost In Multi-Turn Conversation, May 2025). Across more than 200,000 simulated conversations, performance fell by 39 percent on average when the request was split, and every model dropped. Two messages were enough. The models wrote overly long answers, filled the missing details with assumptions early on, tried to deliver a final answer too soon, and kept building on their own earlier attempts. Most of the loss was reliability: the same instruction could produce a strong answer on one run and a weak one on the next. The models were the ones available in 2025, among them GPT-4o, o3, Claude 3.7 Sonnet and Gemini 2.5 Pro. The authors' own advice is to stop patching the old chat. Ask the model to consolidate everything you have told it, then start a new chat with that summary. In their tests, the same pieces pasted together into one message recovered about 95 percent of the single-message score. Paste this into the chat that has lost the thread: > Collect everything I asked for in this chat into one message I can paste into a new chat. Include every requirement and every correction I made, and leave out your earlier answers. Open a new chat and send the result as your first message. Next time, put the whole request in your first message.
It agrees with you because agreement is what got rewarded
You describe a plan and it calls the plan excellent. You say you are not sure, and it tells you that you are right. Challenge an answer it got right, and it may switch to a wrong one. Chat models are tuned on human ratings of their answers. A team at Anthropic tested five AI assistants, all 2023 models, and found that every one of them leaned toward the user (Towards Understanding Sycophancy in Language Models, ICLR 2024). In the human preference data they analysed, an answer that matched the user's view was more likely to be preferred, and both people and the models trained on their ratings sometimes picked a convincing agreeable answer over a correct one. One test matters for how you write: when the user added "I wrote this" or "I really like this", the feedback on the same text came back more positive, and when the user said they disliked it, more negative. OpenAI hit the same pull in its own product. At the end of April 2025 it rolled back a GPT-4o update in ChatGPT for being overly flattering or agreeable, and said it had focused too much on short-term feedback such as thumbs-up and thumbs-down (OpenAI). So take away the signal it is responding to. Do not say the idea is yours, and do not say you like it. Present it as someone else's and ask for the case against it: > A friend is planning the following. Why could it fail? Give me three specific reasons, the strongest first. > > [the idea, in a few sentences] In ChatGPT you can also switch the personality to Candid: profile icon, Personalization, then Base style and tone. OpenAI describes Candid as giving clear callouts of risks, gaps and trade-offs, and notes that a personality only changes how ChatGPT communicates (OpenAI Help). Both steps reduce the flattery. Whether the idea is good is still your call.
It guesses because a guess can score and a blank cannot
It gives you a date or a reference in the same confident tone as everything else, and the fact turns out to be invented. OpenAI's researchers asked a widely used chatbot for the title of the PhD dissertation of Adam Tauman Kalai, one of their co-authors. It gave three different titles, all wrong, and when asked for his birthday, three different dates, also all wrong. OpenAI's explanation compares model evaluation to a multiple-choice exam (Why language models hallucinate, September 2025). A wild guess might be right; a blank answer is a guaranteed zero. When models are ranked only on how many answers they get right, the one that guesses looks better on the scoreboard than the one that says "I don't know". Rare, arbitrary facts such as a birthday or a thesis title cannot be worked out from patterns in text, so that is where the guessing shows. OpenAI's conclusion is that hallucinations are not inevitable, because a model can abstain when it is unsure. So give it the option to abstain, in the first message, before the question. Anthropic's guide to reducing hallucinations lists this first and says that explicitly allowing the model to say "I don't know" can drastically reduce false information (Anthropic docs). The same guide says its techniques reduce hallucinations without eliminating them. Start any chat where you need facts or references with this: > If you are not sure about something, say "I don't know" instead of guessing. For each fact you give me, tell me where it comes from.
Put all three fixes in the first message, then check before you act
Each cause in this guide is in place before the model writes a word: details you have not given yet, an opinion it can mirror, and no permission to leave a blank. One first message can deal with all of them. Fill in the brackets and send it to start a new chat: > [The whole request: what you want, who it is for, the constraints, the format, and anything you would otherwise add later.] > > The plan behind it is an idea someone sent me: [the idea, in a few sentences]. Before anything else, tell me why it could fail: three specific reasons, the strongest first. > > If you are not sure about something, say "I don't know" instead of guessing, and name the source of each fact. Two checks remain for any answer you are about to act on. First, ask the same factual question again in a new chat. If the answer changes, treat both versions as guesses. Anthropic's guide recommends running the same prompt several times and comparing the outputs, because inconsistencies can signal a hallucination, and OpenAI's three dissertation titles are what that looks like in practice. Second, open every source it names. A model can invent a source as easily as a fact, so a citation counts only once you have opened it and found the claim there.
لماذا يتوه ChatGPT ويجاملك ويخترع المعلومات بثقة، وماذا تكتب له في كل حالة
أكثر أخطاء ChatGPT كلفة عليك هي التي يقولها بثقة. يمدح فكرة مشروعك فتصرف عليها مدخراتك، أو تصحّح له خطأً فيعود إليه بعد رسائل قليلة وتسلّم عميلك ملفًا فيه الخطأ نفسه، أو يعطيك مرجعًا يبدو حقيقيًا فتنقله إلى بحثك ثم تكتشف أنه غير موجود. الإجابة المترددة تدفعك إلى التحقق، أما الواثقة فتمرّ دون سؤال، لأنها مكتوبة بلغة من يعرف.
ولكل حالة من الثلاث سبب موثّق في دراسات منشورة أو في بيانات الشركات التي تصنع هذه النماذج. الطلب الذي يصله مقسّمًا على رسائل يدفعه إلى سدّ الناقص بافتراضاته، وتقييم الناس لإجاباته أثناء التدريب رجّح كفّة الموافقة، واختبارات الدقة تعطي التخمين فرصة وتعطي الاعتراف بالجهل صفرًا. ولكل حالة علاج تكتبه بنفسك في رسالة.
ولأن العلاجات رسائل، فهي تعمل في ChatGPT وClaude وGemini وفي أي مساعد محادثة آخر، على الخطة المجانية أو المدفوعة. الاستثناء الوحيد إعداد الشخصية في القسم الثاني، فهو خاص بـChatGPT. بعض الرسائل تكتبه في أول المحادثة، وبعضها تلصقه في منتصفها حين تلاحظ أن الإجابات بدأت تنحرف.
إذا جئت من الفيديو الذي يشرح لماذا يتوه ChatGPT كلما طالت المحادثة، فابدأ بالقسم الأول. وإن كان الفيديو عن المديح و«أنت محق» فاقرأ القسم الثاني، وإن كان عن المعلومات المخترعة فالقسم الثالث. والقسم الرابع يجمع العلاجات في رسالة افتتاحية واحدة، ومعها فحصان قبل أن تعتمد على أي إجابة.
ومع كل حالة رسالة عربية تلصقها كما هي، ونسخها الإنجليزية في مربع النسخ أسفل الصفحة.
تابعني على Instagram:
التسجيل في الدورة: https://halaqa.app/enrollment?course=start-with-ai
الخطوات
إذا وصله طلبك على دفعات، خمّن الناقص وتمسّك بتخمينه
تبدأ بطلب قصير، وكلما تذكرت تفصيلًا أرسلته في رسالة جديدة. وبعد قليل تصحّح له شيئًا فهمه خطأ، ثم تجد ردوده التالية ترجع إلى فهمه الأول كأن التصحيح لم يصل. هذه المحادثة في حقيقتها طلب واحد وصل إلى النموذج على دفعات، وهي الحالة التي قاسها باحثون من Microsoft Research وSalesforce Research في دراسة نُشرت عام 2025. اختبروا 15 نموذجًا من 8 عائلات، كلها مما كان متاحًا عام 2025، ومنها GPT-4o وClaude 3.7 Sonnet وGemini 2.5 Pro وDeepSeek R1، وأعطوا كل نموذج المهمة نفسها بطريقتين: مرة كاملة في رسالة واحدة، ومرة مقسّمة على عدة رسائل تكشف المعلومات قطعة بعد قطعة. وفي أكثر من 200 ألف محادثة محاكاة، هبط الأداء في الطريقة المقسّمة بنسبة 39 بالمئة في المتوسط. وشمل الهبوط كل النماذج، ويكفي لظهوره أن تتوزع معلومتان على رسالتين. ورصد الباحثون ما يفعله النموذج في هذه الحالة: يفترض من عنده التفاصيل التي لم تصله بعد، ويستعجل إجابة نهائية قبل أن تكتمل الصورة، ثم يبني كل رد على محاولاته السابقة. وخلاصتهم أن النموذج إذا أخذ منعطفًا خاطئًا في المحادثة ضاع ولم يجد طريق العودة. وأغلب الخسارة في الثبات: قدرته تراجعت قليلًا، وتذبذبه زاد إلى أكثر من الضعف، حتى إن الطلب نفسه قد يعطي إجابة قوية في محاولة وضعيفة في التي تليها. والمخرج في الدراسة نفسها: حين جُمعت القطع كلها في رسالة واحدة، استعادت النماذج نحو 95 بالمئة من أدائها في الطريقة الكاملة. ومن هنا نصيحة الباحثين: أعطِ النموذج طلبك كاملًا من أول رسالة، وإذا تشتتت محادثة قائمة فاجمع ما فيها وابدأ محادثة جديدة. اطلب منه ذلك بهذه الرسالة، ثم الصق رده في المحادثة الجديدة: > اجمع لي في رسالة واحدة كل ما طلبته منك في هذه المحادثة من أولها: الهدف بكل تفاصيله، ومعه كل تعديل أو تصحيح أضفته بعد ذلك. اكتبها كأنها أول رسالة أرسلها إليك، حتى أنسخها كما هي إلى محادثة جديدة.
يجاملك لأن الإجابة التي توافقك كانت تنال تقييمًا أعلى
تعرض عليه فكرة مشروع فيقول لك إنها فكرة عبقرية، وتعترض على نقطة في رده فيقول «أنت محق» ويغيّر موقفه في الحال. وOpenAI نفسها تراجعت عن تحديث لنموذج GPT-4o في ChatGPT لأنه صار مفرطًا في المجاملة والموافقة: نزل التحديث في 25 أبريل 2025، وبدأ التراجع الكامل عنه في 28 أبريل. وفي شرحها لما حدث قالت الشركة إنها ركّزت في ذلك التحديث أكثر من اللازم على ردود الفعل الفورية، مثل زرّي الإعجاب وعدم الإعجاب تحت إجابات ChatGPT، ولم تحسب حسابًا كافيًا لتطوّر تعامل المستخدمين معه بمرور الوقت. وتصف ما حدث بأنه أثر جانبي لم تقصده. والظاهرة أقدم من ذلك التحديث. دراسة من Anthropic نُشرت في مؤتمر ICLR 2024 وجدت المجاملة بانتظام عند كل المساعدات التي اختبرتها من نماذج 2023، ومنها GPT-4 وClaude 2. وتبيّن فيها أن الناس، ومعهم النماذج التي تعلّمت من تقييماتهم، فضّلوا أحيانًا إجابة موافِقة مكتوبة بإقناع على إجابة صحيحة. وفيها تجربة تعنيك مباشرة: حين قال المستخدم إنه يحب النص كثيرًا أو إنه هو من كتبه، صار رأي المساعد في النص نفسه أكثر إيجابية، وحين قال إنه لا يحبه أو لم يكتبه، صار أكثر سلبية. لذلك لا تقل إن الفكرة فكرتك، ولا إنك متحمس لها. اعرضها على أنها خطة صديق، واطلب منه أن يبحث عن أسباب فشلها: > صديق لي يخطط لهذا المشروع: [اكتب الفكرة هنا]. لماذا قد تفشل هذه الفكرة؟ أعطني ثلاثة أسباب محددة تخصها هي بالذات، ورتّبها من الأخطر إلى الأقل خطرًا. وإن كنت تستخدم ChatGPT، فاختر له شخصية Candid. تصفها صفحة المساعدة في OpenAI بأنها مباشرة ومشجّعة، تعطي رأيًا صريحًا مع خطوات تالية واضحة، وتنبّه إلى المخاطر والثغرات وما تكسبه وما تخسره مع كل خيار. على الويب اضغط أيقونة حسابك، ثم Personalization، ثم القائمة المنسدلة بجانب Base style and tone. وعلى iOS وAndroid تفتح لك أيقونة الحساب Settings، ومنها Personalization ثم Base style and tone. والشخصية، كما تقول الصفحة نفسها، تغيّر طريقة كلامه فقط وتترك قدراته على حالها. هي والرسالة السابقة تخففان المجاملة ولا تلغيانها، والحكم على الفكرة يبقى لك، فتعامل مع الأسباب التي يكتبها على أنها نقاط تفحصها بنفسك قبل أن تقرر.
يخمّن لأن التدريب والتقييم يعطيان «لا أعرف» صفرًا
تسأله عن مرجع أو تاريخ فيجيب بثقة كاملة، ثم يتبيّن أن الإجابة من تأليفه. هذه هي الهلوسة كما تعرّفها OpenAI: عبارات تبدو معقولة لكنها خاطئة، يقولها النموذج بثقة. وقد اختبر باحثو الشركة ذلك على واحد منهم: سألوا مساعد محادثة واسع الاستخدام عن عنوان أطروحة الدكتوراه التي كتبها Adam Tauman Kalai، أحد مؤلفي البحث، فأعطى بثقة ثلاثة عناوين مختلفة، ولم يكن أي منها صحيحًا. وحين سألوه عن تاريخ ميلاده، أعطى ثلاثة تواريخ مختلفة كلها خطأ. وبحث OpenAI عن أسباب الهلوسة يرجعها إلى أن التدريب والتقييم المعتادين يكافئان التخمين أكثر من الاعتراف بعدم المعرفة. تخيّل اختبار اختيار من متعدد: التخمين العشوائي قد يصيب، والسؤال المتروك فارغًا صفر مضمون. وفي سؤال عن تاريخ ميلاد، للتخمين فرصة واحدة من 365، و«لا أعرف» صفر في كل مرة. فإذا حُسبت الدرجة من نسبة الإجابات الصحيحة وحدها، بدا النموذج الذي يخمّن في جدول النتائج أفضل من الذي يعترف بأنه لا يعرف. إنه ضغط المكافأة نفسه الذي مرّ معك في المجاملة، ومصدره هذه المرة درجات الاختبار. وتخلص OpenAI إلى أن الهلوسة ليست أمرًا حتميًا، لأن النموذج قادر على الامتناع عن الإجابة حين لا يكون متأكدًا. فأعطه هذا الإذن صراحة في أول رسالة. توثيق Anthropic عن تقليل الهلوسة يضعه أول استراتيجية أساسية، ويقول إنه قد يقلل المعلومات الخاطئة تقليلًا كبيرًا، ويقترح معه أن تطلب مصدرًا لكل معلومة، وأن يسحب النموذج كل معلومة لا يجد ما يسندها. ضع هذه الرسالة في بداية أي محادثة تنتظر منها أرقامًا أو مراجع: > إذا لم تكن متأكدًا من أي معلومة، فمن حقك أن تقول «لا أعرف»، وهذا أفضل عندي من التخمين. واذكر مصدر كل معلومة تقدمها، وأي معلومة لا تجد لها مصدرًا احذفها من إجابتك وأخبرني أنك حذفتها.
رسالة أولى واحدة تكفي للعلاجات الثلاثة، والفحص يلتقط ما يفلت منها
القالب التالي يجمع ما في الأقسام السابقة: الطلب كاملًا بكل تفاصيله، والفكرة معروضة على أنها لشخص آخر، والإذن بقول «لا أعرف» مع طلب مصدر لكل معلومة. املأ الفراغات فيه، والصقه في أول محادثة جديدة: > صديق لي يخطط لهذا المشروع ويريد رأيًا صريحًا قبل أن يبدأ: [اكتب الفكرة هنا]. > > هذه كل التفاصيل التي أعرفها: [الهدف، والجمهور، والميزانية، والمدة، وأي شرط آخر]. > > أولًا: لماذا قد تفشل هذه الفكرة؟ أعطني ثلاثة أسباب محددة تخصها هي. > > ثانيًا: [اكتب ما تريده بعد ذلك، مثل خطة عمل أو نص إعلان]. > > إذا لم تكن متأكدًا من أي معلومة، فمن حقك أن تقول «لا أعرف»، وهذا أفضل عندي من التخمين. واذكر مصدر كل معلومة أو رقم تعتمد عليه. وقبل أن تعمل بإجابة تهمك، افحصها بطريقتين. الأولى: اسأل السؤال نفسه في محادثة جديدة، فإذا تغيّرت الإجابة فتعامل معها كتخمين. توثيق Anthropic يقترح تشغيل الطلب نفسه عدة مرات ومقارنة النتائج، لأن الاختلاف بينها قد يدل على هلوسة، ومثال OpenAI يريك شكل هذا الاختلاف: ثلاثة عناوين مختلفة لأطروحة واحدة. والثانية: افتح بنفسك كل مصدر يذكره. النموذج قد يخترع مصدرًا كما يخترع معلومة، فلا تحسب المصدر إلا بعد أن تفتحه وترى المعلومة فيه.
Prompt
# STRAIGHTER ANSWERS FROM CHATGPT: THREE PROMPTS AND TWO CHECKS # Works in ChatGPT, Claude, Gemini or any chat assistant, free or paid. # Paste the part you need. Lines indented under a heading are the prompt. # # ─── 1. THE CHAT HAS LOST THE THREAD ─── # Paste into the chat that went off the rails: # Collect everything I asked for in this chat into one message I can paste # into a new chat. Include every requirement and every correction I made, # and leave out your earlier answers. # Open a new chat and send the result as the first message. # Next time: put the whole request in the first message. # # ─── 2. IT AGREES WITH EVERYTHING ─── # Do not say the idea is yours, and do not say you like it. Paste: # A friend is planning the following. Why could it fail? # Give me three specific reasons, the strongest first. # [the idea, in a few sentences] # ChatGPT only: profile icon > Personalization > Base style and tone > Candid. # Both reduce the flattery. The decision is still yours. # # ─── 3. IT ANSWERS CONFIDENTLY AND WRONGLY ─── # Put this in the first message, before your question: # If you are not sure about something, say "I don't know" instead of # guessing. For each fact you give me, tell me where it comes from. # # ─── ALL THREE IN ONE FIRST MESSAGE ─── # [The whole request: what you want, who it is for, the constraints, # the format, and anything you would otherwise add later.] # The plan behind it is an idea someone sent me: [the idea, in a few # sentences]. Before anything else, tell me why it could fail: three # specific reasons, the strongest first. # If you are not sure about something, say "I don't know" instead of # guessing, and name the source of each fact. # # ─── TWO CHECKS BEFORE YOU ACT ON AN ANSWER ─── # 1. Ask the same factual question in a new chat. Treat a changed answer as a guess. # 2. Open every source it names. Models can invent sources too. # # ─── WHERE THIS COMES FROM ─── # Laban et al. (Microsoft Research, Salesforce Research), "LLMs Get Lost In # Multi-Turn Conversation", arXiv 2505.06120, 2025 # Sharma et al. (Anthropic), "Towards Understanding Sycophancy in Language # Models", ICLR 2024 # OpenAI, "Sycophancy in GPT-4o", 2025-04-29 # OpenAI, "Why language models hallucinate", 2025-09-05 # Anthropic docs, "Reduce hallucinations"