كما يقول المثل: «يمكن للكذبة أن تدور حول العالم قبل أن تنتعل الحقيقة حذاءها.»* وقد شهدنا هذا على مدى العقد الماضي، مع دفع الإنترنت لارتفاع الأخبار الزائفة والتضليل في عقد 2010، إلى أن بلغت الأوضاع ذروة العاصفة خلال الجائحة. لكنني أتساءل عمّا إذا كان الأسوأ لم يأتِ بعد.
هناك كمّ غير مسبوق من المعلومات يقصفنا كل يوم، وبات من الصعب والمستهلِك للوقت بشكل متزايد التمييز بين ما هو موثوق وما هو زائف، والآن، باتت روبوتات الدردشة العاملة بالذكاء الاصطناعي (AI) تتوسّط على نحو متزايد وصولنا إلى المعلومات.
ومثل أي تقنية، فإن الذكاء الاصطناعي بحدّ ذاته محايد. بل إنه في عام 2024، لم يعد الذكاء الاصطناعي جديدًا أو حتى مثيرًا إلى هذا الحد – فقد ظللنا جميعًا نستخدمه لسنوات. فإن كنت قد استخدمت Siri، أو تطبيق ملاحة، أو التعرّف على الوجه لفتح هاتفك، أو مرشّح البريد المزعج في Gmail، فأنت قد استخدمت الذكاء الاصطناعي.
الذكاء الاصطناعي يرشّح عالمنا ويشكّله
غير أن الذكاء الاصطناعي التوليدي الذي يدخل إلى التيار السائد عبر أدوات مثل ChatGPT قد أشعل النقاش حول الذكاء الاصطناعي من جديد. بما في ذلك بين المحاسبين الذين حضروا مؤتمر مستخدمينا في مايو. والنقلة النوعية الكبرى هي أن الذكاء الاصطناعي التوليدي لا يكتفي باتخاذ قرارات بشأن البيانات القائمة، بل يمكنه إنشاء محتوى أو بيانات جديدة. ويفعل ذلك بالتعلّم من مجموعات بيانات هائلة، ورصد الأنماط والبُنى، واستخدامها لإنشاء محتوى جديد.
وهذا يعني أن روبوتات الدردشة تقدّم رؤية للعالم، تشمل حقائق وأرقامًا وحسابات تحليلية يمكننا استخدامها لاتخاذ القرارات. ومن المنطقي أنه بدلًا من استخدام الإنترنت للبحث عن أفضل مكان لتناول الطعام في سانتوريني هذا الصيف، على سبيل المثال، يمكننا أن نطلب من روبوت دردشة القيام بذلك نيابةً عنا. فهذا أسرع وأكثر كفاءة، وفوائد الكفاءة والإنتاجية في مكان العمل واضحة. وفي سباق إنجاز المزيد، والعمل بسرعة وذكاء لدعم أعمالنا وعملائنا في اتخاذ قرارات أفضل مستندة إلى البيانات، هل من المستغرب أن تكون أدوات الذكاء الاصطناعي التوليدي هي الشيء الكبير التالي؟ لكن ماذا يحدث إذا لم نستطع الوثوق بها؟
ولا يمكننا ذلك دائمًا. فمجموعات بيانات تدريب الذكاء الاصطناعي مسحوبة من الإنترنت. لذا فهي تحتوي على الأكاذيب والتفسيرات الخاطئة والالتباسات نفسها التي يحتويها الإنترنت. إضافةً إلى ذلك، تميل مجموعات البيانات إلى أن يصل عمرها إلى سنتين – فكّر في كم حدث خلال العامين الماضيين وتأمّل ما هو مفقود.
بالنظر إلى ما نعرفه عن صدقية المعلومات الموجودة بالفعل على الإنترنت، وبعد أن عشنا صعود الأخبار الزائفة، فلماذا قد نثق بشكل أعمى بروبوتات دردشة الذكاء الاصطناعي أصلًا؟ ونظرًا لأنها هي أيضًا تأخذ بياناتها من الإنترنت، فإن الذكاء الاصطناعي التوليدي ينطوي على إمكانية تضخيم المعلومات الزائفة القائمة. كما يمكنه أيضًا أن يسهم بأكاذيب جديدة، عبر تخيّلات يبتكرها بنفسه (وتُسمّى هذه هلوسات). لكن، بشكل غريب، يبدو أننا نثق بالروبوتات ثقة كاملة!
الخجل البادي على وجوههم
لقد رُفضت قضايا قانونية بالفعل من المحاكم لأن محامين أسّسوا حججهم على سوابق قضائية وهمية قدّمها الذكاء الاصطناعي التوليدي على أنها الحقيقة. ففي نيويورك في يونيو 2023، غرّم قاضٍ محامين 5000 دولار لتقديمهم قضايا وهمية في مذكّرة قانونية. ثم في يوليو، استخدم محامون يترافعون في قضية في جوهانسبرغ تفاصيل وهمية لدعم قضية موكّلهم. واضطرّ موكّلهم لدفع الأتعاب القانونية للمدّعى عليه، لكن القاضي رأى أن الخجل البادي على وجوه المحامين كان عقابًا كافيًا.
(وهذا أمر ساخر إلى حدٍّ ما، نظرًا لأن المحامين عادةً ما يكونون أول من يقول إن من الأفضل أن تستعين بهم بدلًا من، على سبيل المثال، أن تدع الذكاء الاصطناعي يراجع وثائقك القانونية.)
هلوسات الذكاء الاصطناعي
لماذا تحدث هذه الهلوسات؟ يستخدم الذكاء الاصطناعي التعرّف على الأنماط لا الفهم الحقيقي للتعلّم من مجموعات بيانات التدريب. والنتيجة تستند إلى الاحتمال الإحصائي لظهور كلمات معيّنة في ترتيب معيّن، لا إلى فهم الذكاء الاصطناعي حقًا لما يجري. فإذا كانت بيانات التدريب تنقصها معلومات، أو تتضمّن بيانات متحيّزة أو غير صحيحة أو مضلّلة، فلا يستطيع روبوت الدردشة إدراك ذلك وسيقدّمها على أنها حقيقة. ويفعل ذلك بطريقة واثقة وموثوقة تجعل الردود تبدو أصيلة.
وهكذا، في المثال أعلاه، عند البحث عن مكان للعشاء في سانتوريني، لو استخدمت ChatGPT لوجدت نفسك تتناول الطعام في المكان الرائج لعام 2021، لأن بيانات تدريب ChatGPT تصل فقط إلى سبتمبر 2021. ولو استخدمت روبوت دردشة بديلًا، لنقُل Claude AI، لكان حالك أفضل بعض الشيء ولاكتشفت على الأقل أي مطعم كان الأفضل العام الماضي – فبيانات Claude تصل إلى أغسطس 2023.
التبعات القانونية والتنظيمية
وجبة مخيّبة قليلًا أمر، أما تقديم المشورة للعملاء بناءً على قوانين ضريبية قديمة أو بيانات غير صحيحة فقد يؤثّر بشكل كبير على إقراراتهم الضريبية وميزانياتهم وتنبؤاتهم واستراتيجياتهم الاستثمارية. وفي أسوأ الأحوال، قد تكون لذلك تبعات قانونية وتنظيمية، وفي أفضلها، سيبدو الخجل على وجهك، تمامًا مثل المحامين.
فمن ناحية، الذكاء الاصطناعي التوليدي أداة تتحوّل بسرعة إلى جزء من حياتنا اليومية بدافع الضرورة. فهو السبيل الوحيد لمواكبة التغيّر المستمر في عالم اليوم وتقديم خدمة ممتازة لعملائنا. وإن كنت قد قرأت أيًا من مقالاتي السابقة، فستعرف أن دورات الميزانية الأقصر والوقت الأسرع لاتخاذ القرارات أمور أُعطيها الأولوية. لكن من ناحية أخرى، تقرّ الأداة نفسها بأنها معيبة، وليس لديها حسّ سليم، وينبغي التحقّق من صحة ما تقدّمه بدلًا من الوثوق به بشكل أعمى.
لا يمكنك إلقاء اللوم على الذكاء الاصطناعي
لا يمكن أن تكون عبارة «لكن الذكاء الاصطناعي ارتكب خطأً» دفاعًا حين تسوء الأمور. وقد اكتشفت Air Canada هذا في وقت سابق من العام عندما قضت محكمة بأنها مسؤولة عن معلومات غير صحيحة قدّمها روبوت دردشة لأحد العملاء. وحاجّت الشركة بأن الروبوت «كان مسؤولًا عن تصرّفاته»، وهو أمر مضحك بوضوح ومنحدر زلق نحو مكان بالغ الخطورة. فقد استخدم أحد الركّاب الروبوت للتحقّق من شروط استرداد تذكرة. وعندما حان وقت المطالبة بالاسترداد، أصرّت شركة الطيران على أن المبالغ المستردة لا يمكن منحها بأثر رجعي – خلافًا لما قاله روبوت الدردشة.
وهناك مفارقة أخرى هنا. فإذا كانت الشركات تشجّعنا باستمرار على التفاعل مع روبوتات الدردشة الخاصة بها، فإن أقل ما يمكنها فعله هو ضمان صحة المعلومات ثم الالتزام بالمعلومات المقدّمة. وقد وافقت الهيئة القانونية على ذلك، ورفضت ادّعاء Air Canada بأن الروبوت كيان قانوني منفصل. وأُجبرت شركة الطيران على دفع المبلغ المسترد مع الفوائد والرسوم.
المسؤولية النهائية تقع عليك
فاليوم قد يبدو أن الكذبة يمكنها أن تطوف حول الكرة الأرضية وتسافر إلى المريخ قبل أن تفتح الحقيقة عينيها بنعاس وتفكّر في فنجان قهوتها الأول لليوم! لكن على الشركات أن تنتبه إلى أن المسؤولية النهائية، بالنسبة لها، تقع على عاتقها، وأنها مسؤولة عمّا تقوله، سواء أكان الذكاء الاصطناعي ضالعًا في الأمر أم لا.
\* من الطريف أن نسخة من هذا الاقتباس تُنسب خطأً إلى Mark Twain. وفي الواقع، فقد وُجد بصيغ متعددة على مدى عدة قرون. وأفضّل هذه النسخة من Terry Pratchett.
كما نُشر في AccountingWeb - يونيو 2024