دليل · التعليق التوضيحي للبيانات

التعليق التوضيحي للبيانات (Data Annotation): دليل عملي للنصوص والصوت والصور العربية

لكل نوع من البيانات شكل وسم يخصه، وفي العربية لكل شكل قرار يسبقه: أين تبدأ حدود الكيان إذا التصق به حرف جر؟ وكيف تُكتب القاف التي تُنطق /g/؟ وبأي ترتيب يُقرأ سطر يخلط العربية بالأرقام؟ أمثلة عملية لكل نوع، من الرسالة النصية إلى إجابات النماذج اللغوية.

فريق أبحاث Bayanat Labs· · 14 دقيقة قراءة

التعليق التوضيحي للبيانات (Data Annotation) هو إضافة معلومات منظّمة إلى بيانات خام ليتعلم منها نموذج الذكاء الاصطناعي أو يُقاس بها: حدود كيان في جملة، أو نية رسالة، أو نص مفرَّغ بطوابع زمنية لتسجيل صوتي، أو مربع حول حقل في عقد ممسوح ضوئيًا، أو ترتيب بين إجابتين لنموذج لغوي. يتغير شكل الوسم بتغير نوع البيانات، لكن السؤال في العربية واحد: ما الذي يجب أن يحسمه دليل التوسيم قبل أن يبدأ الموسِّم، في لغة تُكتب فيها الكلمة الواحدة بأكثر من صورة وتُقال بأكثر من لهجة؟

يركّز هذا الدليل على «كيف» في كل نوع: مثال عربي، والشكل الذي يُسلَّم به الوسم، والقرار الذي يتعثر عنده الفريق عادة. أما إدارة المشروع كله، من اختيار اللهجات إلى قياس الاتفاق بين الموسِّمين، ففي دليل توسيم البيانات العربية.

عن المصطلح والأمثلة: «التعليق التوضيحي» و«التوسيم» و«الوسم» و«التسمية» أسماء متداولة لعمل واحد، وقد جمعنا الفروق بينها في دليل مصطلحات Data Labeling بالعربية. وكل الأمثلة في هذا المقال توضيحية، كتبناها لشرح شكل الوسم، وليست من بيانات أي جهة.

ما هو التعليق التوضيحي للبيانات؟

أي مشروع تعليق توضيحي يقوم على ثلاثة عناصر قبل أن يُوسم عنصر واحد: وحدة العمل (رسالة كاملة، أو مقطع داخلها، أو ثوانٍ من تسجيل، أو منطقة في صفحة)، ومخطط الوسوم (Label Schema) أي القائمة المغلقة من الوسوم وتعريف كل منها، ودليل التوسيم (Annotation Guidelines) الذي يحسم الحالات الحدّية بأمثلة. ويُسلَّم كل وسم ومعه بيانات وصفية: من وسمه، وبأي إصدار من الدليل، وما لهجة العنصر.

الجدول التالي يلخّص أنواع التعليق التوضيحي الرئيسية، وما يُقاس به كل نوع:

النوعوحدة العملشكل الوسمالقرار العربي الحاسمكيف تُقاس الجودة
النص: الكيانات المسماةمقطع داخل الجملةموضع البداية والنهاية بالحروف، ونوع الكيانهل تدخل السوابق الملتصقة (بـ، لـ، و) في حدود الكيان؟F1 على مستوى المقطع
النص: النية والمشاعرالرسالة كاملةوسم أو أكثر من قائمة مغلقةيُوسم المعنى المقصود أم الظاهر حين يسخر الكاتب؟الاتفاق بين الموسِّمين (Cohen's kappa أو Krippendorff's alpha)
الصوتمقطع زمنينص مفرَّغ، وبداية ونهاية بالثواني، ورمز المتحدثتُكتب الكلمة كما تُنطق أم بأصلها؟WER أو CER للتفريغ، وDER لتمييز المتحدثين
الصور والمستنداتمنطقة في الصورةمربع أو مضلع، ونص المنطقة، واسم الحقلترتيب القراءة في سطر مختلط، والأرقام الهنديةCER للنص، وIoU للمربعات
الفيديومدى زمني من الإطاراتوسم فعل أو مشهد، وبداية ونهايةمتى يبدأ الحدث؟ وهل يُفرَّغ النص الظاهر على الشاشة؟تطابق المدى الزمني (Temporal IoU)
مخرجات النماذج اللغويةإجابة أو زوج إجاباتترتيب، أو درجة لكل معيار، ومبرر مكتوبمن يحق له الحكم، وبأي معيار يبدأ؟الاتفاق على تفضيل الأزواج

التعليق التوضيحي للنصوص العربية: الكيانات والنية والمشاعر

الكيانات المسماة (Named Entity Recognition)

خذ الجملة: «وصلت الشحنة إلى ميناء الملك عبدالعزيز بالدمام يوم الأحد». هذا شكل الوسم بمواضع الحروف، بعد توحيد ترميز النص إلى صيغة NFC، والبداية محسوبة من صفر والنهاية غير داخلة في المقطع:

المقطعالبدايةالنهايةالوسمملاحظة
ميناء الملك عبدالعزيز1637FAC (منشأة)الكيان الخارجي
الملك عبدالعزيز2237PERS (شخص)كيان متداخل داخل اسم المنشأة
الدمام3945GPE (مدينة)الباء في «بالدمام» خارج الحدود
يوم الأحد4655DATE (تاريخ)يدخل «يوم» في الكيان أو يخرج؟ قرار يكتبه الدليل

في هذا المثال ثلاثة قرارات عربية. الأول أن «بالدمام» كلمة واحدة تحمل حرف جر وأداة تعريف، فإذا وُسمت على مستوى الكلمة بصيغة BIO المعتادة دخلت الباء في الكيان، إلا إذا قُطّعت السوابق قبل التوسيم. ومواضع الحروف تحل المشكلة دون تقطيع. والثاني أن الكيانات في العربية تتداخل كثيرًا: في مدونة Wojood (نحو 550 ألف وحدة نصية (Token) من الفصحى واللهجات، و21 نوعًا من الكيانات) كان 22.5% من نحو 75 ألف كيان متداخلًا، فمخطط لا يسمح بالتداخل يُسقط معلومات حقيقية. والثالث أن المواضع تُحسب على نص ثابت: حذف التشكيل أو التطويل (ـ) بعد التوسيم يُزيح كل موضع يليه.

النية (Intent) ولهجة الرسالة

في رسائل خدمة العملاء يُوسم الغرض من الرسالة، ويجب أن يكون مخطط النوايا مستقلًا عن اللهجة، مع حقل منفصل يسجّل اللهجة. الرسالة نفسها بلهجات مختلفة (أمثلة توضيحية):

المنطقة اللهجيةالرسالةوسم النيةوسم اللهجة
نجدية وخليجية«أبي ألغي الاشتراك»cancel_subscriptionنجدية
حجازية«أبغى ألغي الاشتراك»cancel_subscriptionحجازية
مصرية«عايز ألغي الاشتراك»cancel_subscriptionمصرية
شامية«بدّي ألغي الاشتراك»cancel_subscriptionشامية
مغربية«بغيت نلغي الاشتراك»cancel_subscriptionمغربية
فصحى«أرغب في إلغاء الاشتراك»cancel_subscriptionفصحى

الفخ هنا في الكلمات التي تتغير دلالتها بين اللهجات والفصحى: «أبي» في الرسالة النجدية تعني «أريد»، وهي في الفصحى «والدي». والموسِّم الذي لا يعرف اللهجة قد يقرأ «أبي ألغي» خطأً إملائيًا ويصنّفها «غير مفهومة». لذلك يُوزَّع العمل حسب لهجة الموسِّم، ويجمع الدليل مرادفات كل نية بكل لهجة مطلوبة. وللهجات المملكة تحديدًا انظر اللهجات السعودية والذكاء الاصطناعي.

المشاعر والسخرية (Sentiment Analysis)

«والله خدمة ولا أروع، صار لي أسبوع أنتظر ردكم». ألفاظ الرسالة مدح، ومعناها شكوى. الشكل الذي نقترحه للوسم ثلاثة حقول منفصلة: المشاعر negative، والسخرية true، والجانب المستهدف «سرعة الرد». دمج السخرية في المشاعر يخفي عن النموذج ما يحتاج أن يتعلمه. وفي مجموعة ArSarcasm، التي تضم 10,547 تغريدة وُسمت بالسخرية والمشاعر واللهجة معًا، كانت 16% من التغريدات ساخرة، ووجد الباحثان أن أداء أدوات تحليل المشاعر يتراجع على المحتوى الساخر، وأن وسوم المشاعر ذاتية إلى حد كبير. معنى ذلك عمليًا: عيّنة مزدوجة التوسيم أكبر لهذه المهمة، وأمثلة سخرية بكل لهجة في الدليل.

التعليق التوضيحي للصوت: التفريغ والطوابع الزمنية وتمييز المتحدثين

التعليق التوضيحي للصوت ثلاث طبقات تُسلَّم معًا: التفريغ الصوتي (Transcription)، والطوابع الزمنية (Timestamps) لكل مقطع، وتمييز المتحدثين (Speaker Diarization) أي تحديد من يتكلم ومتى. هذا مقتطف توضيحي من مكالمة خدمة عملاء:

البداية (ث)النهاية (ث)المتحدثالنص المفرَّغوسوم إضافية
0.003.20SPK1 (موظف)هلا والله، معك خالد، كيف أقدر أخدمك؟—
3.107.85SPK2 (عميل)أبي أغيّر الباقة، الفاتورة صارت غاليةتداخل مع المقطع السابق (3.10–3.20)، لهجة نجدية
7.9010.40SPK2 (عميل)وأبي ألغي الـroaming بعدتبديل لغوي: en

الإملاء: تُكتب «أقدر» بالقاف وإن نطقها الموظف /g/. وهذا ما تعتمده إرشادات CODA* للإملاء الاصطلاحي للهجات، التي طُبّقت على 28 لهجة مدينة من الرباط إلى مسقط، منها الرياض وجدة، ويورد أحد جداول أمثلته كلمة «طبق» بنطق الرياض /tˤabag/ مع بقاء القاف في الكتابة. ويعرض البحث نفسه 27 صورة كتابية رُصدت فعلًا لكلمة واحدة من العامية المصرية. هذا حجم التشتت الذي يمنعه دليل إملاء مكتوب.

الطوابع والتداخل: تُوضع حدود المقاطع عند الوقفات الطبيعية، ويُوسم الكلام المتداخل ولا يُحذف، لأن المقاطعة في مكالمات الشكوى جزء من المعنى. المتحدثون: يبقى رمز المتحدث ثابتًا في الملف كله، ويُسجَّل دوره (موظف أو عميل) في حقل مستقل. التبديل اللغوي: تبقى الكلمة الإنجليزية بحروفها اللاتينية مع وسم اللغة، ولا تُعرَّب في مرحلة ثم تُترك في أخرى.

المدونات المفتوحة تساعد لكنها لا تغني عن بيانات مجالك. QASR مثلًا نحو 2,000 ساعة من بث قناة الجزيرة، بتفريغ خاضع لإشراف خفيف (Lightly Supervised) مع تقطيع وعلامات ترقيم وبيانات المتحدثين. لكنها كلام بث إخباري، لا مكالمات مزدحمة بلهجات محلية. والقواعد التفصيلية للكتابة والوسوم في معايير التفريغ الصوتي للهجات العربية، وخدمة الجمع والتفريغ في جمع البيانات الصوتية العربية والتفريغ الصوتي.

التعليق التوضيحي للصور والمستندات العربية

في الصور العامة، الأدوات معروفة: المربع المحيط (Bounding Box)، والمضلع (Polygon) للأشكال غير المنتظمة، والتقسيم (Segmentation) على مستوى البكسل. والجزء العربي الصعب هو المستندات: العقود والفواتير والنماذج الحكومية والخط اليدوي، حيث يجتمع التعرف الضوئي على الحروف (OCR) واستخراج الحقول وترتيب القراءة. مثال توضيحي من عقد إيجار ممسوح:

المنطقةالشكلالنص كما كُتبالقيمة المعياريةالحقل
العنوانمربععقد إيجار سكنيعقد إيجار سكنيdoc_title
سطر الجوالمربعرقم الجوال: ٠٥٥٠٠٠٠٠٠٠0550000000phone
مدة العقدمربعمن ١/١/١٤٤٨هـ إلى ٣٠/١٢/١٤٤٨هـتاريخ هجري: البداية والنهايةlease_term
الختممضلعيُفرَّغ نصه إن كان مقروءًا—stamp
التوقيعمضلعلا يُفرَّغ—signature

القرارات التي يحسمها الدليل هنا:

  • طبقتان للنص لا طبقة واحدة: نص حرفي يحفظ الأرقام الهندية (٠١٢) والتاريخ الهجري كما كُتبا، وقيمة معيارية للحقل. خلطهما يُفسد قياس دقة OCR ويُفسد الحقول معًا.
  • الترتيب المنطقي لا البصري: يُخزَّن النص المرجعي بالترتيب المنطقي الذي تفترضه خوارزمية Unicode ثنائية الاتجاه (UAX #9)، لا كما يظهر على الشاشة. وإلا انقلبت الأرقام والكلمات الإنجليزية داخل السطر العربي.
  • أشكال العرض: بعض أدوات استخراج النص من ملفات PDF تُخرج الحروف العربية بأشكال العرض (Arabic Presentation Forms-B) بدل الحروف الأساسية، فيبدو النص سليمًا ويفشل البحث والمقارنة. يُطبَّع إلى NFKC قبل مقارنته بالنص المرجعي.
  • الخط اليدوي يُفرَّغ سطرًا سطرًا: مدونة KHATT من جامعة الملك فهد للبترول والمعادن تضم 1,000 نموذج بخط 1,000 كاتب، ويُطابَق نصها المرجعي مع الصور على مستوى النموذج والفقرة والسطر. والسطر هو الوحدة العملية لمعظم مشاريع خط اليد.

التعليق التوضيحي للفيديو: الأفعال والمشاهد

الفيديو يضيف الزمن إلى الصورة. يُوسم فيه الفعل أو الحدث (Action Labeling) بمدى زمني، ويُتتبع العنصر عبر الإطارات برقم هوية ثابت (Object Tracking)، ويُوسم المشهد كاملًا (Scene Tagging). وفي المحتوى العربي تأتي معه عادةً طبقتان أخريان: الكلام، والنص الظاهر على الشاشة. مثال توضيحي من مقطع مباراة بتعليق خليجي:

من (ث)إلى (ث)الطبقةالوسم
3.25.0فعلتسديدة (اللاعب رقم 9، معرّف التتبع obj_4)
5.06.1حدثهدف
6.114.0فعلاحتفال
4.09.5كلامتفريغ صوت المعلّق مع وسم اللهجة
7.020.0نص على الشاشةتفريغ النتيجة الظاهرة بالعربية كما كُتبت

أكثر خلافات الموسِّمين في الفيديو على الحدود: هل تبدأ التسديدة عند رفع القدم أم عند لمس الكرة؟ يكتب الدليل قاعدة واحدة لكل فعل ويمثّل لها بإطار. ووسوم المشاهد تحتاج إلى سياق ثقافي: التمييز بين مناسبة عائلية وتجمّع عام، أو بين مجلس ومكتب، قرار يُحسم بأمثلة من المنطقة نفسها لا بتعريف عام.

التعليق التوضيحي لمخرجات النماذج اللغوية: الترتيب والتقييم

هنا لا تُوسم بيانات خام، بل إجابات النموذج نفسه. وصف بحث InstructGPT من OpenAI الخطوتين الأساسيتين: أمثلة يكتبها الموسِّمون للسلوك المطلوب تُستخدم في الضبط الدقيق الموجَّه (SFT)، ثم ترتيب إجابات النموذج لتدريبه بالتعلم المعزز من ملاحظات البشر (RLHF). مثال توضيحي: طلب المستخدم «اكتب لي رسالة اعتذار لعميل تأخر طلبه، بأسلوب لطيف وباللهجة السعودية».

المعيارالإجابة (أ)الإجابة (ب)
اتباع التعليماتفصحى رسمية، تجاهلت طلب اللهجةباللهجة السعودية كما طُلب
الأمانة وعدم الاختلاقلا وعود غير مطلوبةوعدت العميل بخصم لم يذكره الطلب
النبرةمهذبة لكنها جافةودّية ومناسبة
الحكم النهائييتوقف على ترتيب المعايير في الدليل: إن كان الوعد غير المصرّح به خطأً حاسمًا، فالتفضيل للإجابة (أ) مع مبرر مكتوب

الدرس أن التفضيل وحده لا يكفي: يُطلب من المقيِّم درجة لكل معيار، ومبرر مختصر، وترتيب مكتوب مسبقًا يبيّن أي المعايير يُقدَّم عند التعارض. ومن يحكم على ملاءمة اللهجة يجب أن يتكلمها، ومن يحكم على إجابة طبية أو قانونية يجب أن يكون مختصًا. التفاصيل في بيانات RLHF العربية.

أخطاء شائعة في التعليق التوضيحي للبيانات العربية

  1. تطبيع النص بعد التوسيم. حذف التشكيل أو التطويل، أو تحويل الأرقام، بعد حساب المواضع يُزيح كل كيان يليه. طبّع أولًا، أو احفظ النص الأصلي واحسب المواضع عليه.
  2. اختزال المخطط إلى «نعم/لا». في LabelBench سجّل نموذج لغوي محلي (a local language model) دقة مطابقة تامة (exact-match accuracy) بلغت 78% في تصنيف السمية الثنائي، ثم 25.3% على المخطط الحقيقي ذي الوسوم السبعة، على مجموعة الاختبار الثابتة (fixed held-out manifest). المخطط المبسّط يعطي أرقامًا مطمئنة لا تصمد.
  3. الاعتماد على التوسيم الآلي لتحديد اللهجة. في التدقيق نفسه لم تتجاوز الدقة 22.4% في تحديد خمس مناطق لهجية من النص، والصدفة 20%. وسم اللهجة يحتاج إلى متحدثين أصليين.
  4. موسِّم يفهم اللهجة ولا يتكلمها. الفهم العام يكفي لنية بسيطة، ولا يكفي للسخرية والكنايات والإساءة المبطّنة.
  5. تجاهل العربيزي والتبديل اللغوي. رسائل مثل «ana 3ayez alghi el eshterak» تسقط من التوسيم أو تُوسم «لغة أخرى». يحتاج الدليل قاعدة صريحة لها، كما في دليل العربيزي والتبديل اللغوي (بالإنجليزية).
  6. دمج طبقتين في حقل واحد. السخرية داخل المشاعر، أو النص الحرفي داخل القيمة المعيارية، أو دور المتحدث داخل رمزه. كل دمج يمنع قياس خطأ بعينه لاحقًا.

كيف نعمل في Bayanat Labs: نعمل وفق منهجية من خمس مراحل: الفحص، ثم التدريب، ثم الإنتاج، ثم ضبط الجودة، ثم التسليم. يُنفَّذ التعليق التوضيحي على النص والصوت والصور والفيديو بأيدي متحدثين أصليين ولغويين ومختصين مرخّصين يجتازون اختبارات اللهجة والمجال قبل أن يلمسوا بيانات العميل، وتُقاس جودته على مجموعات ذهبية مع تحكيم الخلافات وإعادة العمل، ومع سجل تدقيق لكل مهمة. نغطي أكثر من 25 لهجة وتنوعًا عربيًا، والاستضافة داخل المنطقة افتراضيًا، مع خيارَي التشغيل في مقرّك (on-prem) أو في سحابة خاصة. التفاصيل في خدمات توسيم البيانات العربية.

أهم النقاط
  • لكل نوع شكل وسم: مواضع حروف للكيانات، ووسم للرسالة كلها للنية والمشاعر، ومقاطع زمنية للصوت والفيديو، ومناطق وحقول للمستندات، ودرجات ومبررات لمخرجات النماذج.
  • افصل الطبقات: اللهجة حقل مستقل عن النية، والسخرية مستقلة عن المشاعر، والنص الحرفي مستقل عن القيمة المعيارية.
  • ثبّت النص قبل التوسيم: NFC للمواضع، وNFKC لمخرجات OCR، وترتيب منطقي للأسطر المختلطة.
  • اكتب الإملاء بقاعدة: القاف تبقى قافًا وإن نُطقت /g/، والكلمة الإنجليزية تبقى لاتينية مع وسم اللغة.
  • لا تثق بالمخطط الثنائي ولا بالتوسيم الآلي للهجة: أرقام LabelBench تبيّن كم تخفي الأرقام المطمئنة.

أسئلة شائعة

ما الفرق بين التعليق التوضيحي للبيانات وتوسيم البيانات؟

في الاستخدام الشائع لا فرق: كلاهما مقابل لـ Data Annotation أو Data Labeling، وتستعمل أغلب الفرق المصطلحين بمعنى واحد. ويفرّق بعض المختصين بينهما، فيجعلون «الوسم» لفئة تُسند إلى العنصر كله، كنية الرسالة، و«التعليق التوضيحي» للبنية داخله، كحدود الكيانات أو الطوابع الزمنية أو المربعات في الصورة. المهم أن يعرّف العقد ودليل التوسيم ما يدخل في العمل فعلًا. التفاصيل في دليل مصطلحات Data Labeling بالعربية.

أي أنواع التعليق التوضيحي تحتاج إلى متحدثين أصليين للهجة؟

كل مهمة يتوقف فيها الوسم على المعنى المقصود لا على الشكل: المشاعر والسخرية، والنوايا في رسائل العملاء، والإشراف على المحتوى، والتفريغ الصوتي للمحادثات، وتقييم إجابات النماذج المكتوبة باللهجة. أما المربعات المحيطة حول عناصر بصرية لا نص فيها فلا تحتاج إلى معرفة لهجية. وبين الطرفين تقع المستندات: قراءة خط اليد العربي تحتاج إلى قارئ متمرّس، لا إلى متحدث لهجة بعينها.

هل يستطيع نموذج لغوي أن يتولى التعليق التوضيحي بدل البشر؟

في المهام البسيطة ذات الفئات القليلة قد يصلح توسيمًا مسبقًا يراجعه الموسِّم، لا بديلًا عنه. والطريقة المأمونة أن تقيس على مجموعة ذهبية أي الفئات وأي اللهجات يمكن أن تخرج من طابور المراجعة البشرية دون أن ترتفع الأخطاء، وهذا ما نسمّيه «تغطية الأتمتة الآمنة» (Safe Automation Coverage) في LabelBench. أما السخرية واللهجات المختلطة والمخططات متعددة الوسوم فتبقى غالبًا في يد البشر.

كم مرة يجب أن يُوسم العنصر الواحد؟

لا يلزم أن يُوسم كل عنصر مرتين. الشائع أن تُوسم عينة من كل دفعة بموسِّمَين مستقلَّين لقياس الاتفاق، وأن تُحال الخلافات إلى محكِّم (Adjudicator) يحسمها ويحدّث الدليل بمثال جديد. وتُرفع نسبة العينة المزدوجة في المهام الذاتية كالمشاعر والسخرية وتقييم الإجابات، وفي أول أسابيع المشروع، ثم تُخفض حين يستقر الاتفاق ويقل ورود الحالات الحدّية الجديدة.

من أين أبدأ مشروع تعليق توضيحي لبيانات عربية؟

ابدأ بأربعة قرارات مكتوبة: وحدة العمل (رسالة أو مقطع أو صفحة)، ومخطط الوسوم بتعريف ومثال لكل وسم، واللهجات المطلوبة بالاسم، وشكل التسليم. ثم وسّم عينة صغيرة من بياناتك الحقيقية وحوّل خلافات الموسِّمين إلى أمثلة في الدليل، ولا تنتقل إلى الإنتاج قبل أن يستقر الاتفاق. ويمكنك أن تطلب مشروعًا تجريبيًا على عينة من بياناتك.

جرّب مخطط الوسوم على بياناتك

مشروع تجريبي بنطاق ثابت على عينة من نصوصك أو تسجيلاتك أو مستنداتك: لهجات محددة بالاسم، ومجموعة ذهبية، وتقرير جودة في النهاية، يُنجَز عادةً خلال أسبوعين، مع استضافة البيانات داخل المنطقة افتراضيًا.

اطلب مشروعًا تجريبيًا