أداة · متاح

مدقّق مواضع الكيانات المسمّاة العربية من Bayanat Labs

تنكسر وسوم الكيانات المسمّاة العربية بطرق يصعب رؤيتها: رمز تعبيري يجعل JavaScript وPython تعدّان المواضع بطريقتين مختلفتين، وخطوة تطبيع تحوّل الألف مع الهمزة المركّبة إلى حرف واحد أو حرف لام ألف المدمج إلى حرفين، وتطويل أو فواصل أسطر تتغير بعد الوسم، وحدّ امتداد يفصل الحرف عن حركته، وحرف عطف يلتصق باسم المكان. يقرأ المدقّق ملف الوسوم بصيغة JSON Lines القياسية أو doccano أو Label Studio أو spaCy أو CoNLL أو صفوف توكنات Hugging Face، ويذكر كل مشكلة برمز من 27 رمزًا للنتائج ورسالة بالعربية والإنجليزية، ويقترح مواضع جديدة للمراجعة في صورة فرق قابل للتدقيق حين يتبيّن ما حدث. وتُعلَن وحدة المواضع (نقاط الترميز أو وحدات UTF-16 أو بايتات UTF-8 أو العناقيد الكتابية) ولا تُخمَّن، ويذكر التقرير الوحدة التي تناسب النص. والمدقّق مكتبة Python وأداة سطر أوامر، وتطبيق ويب يُجري الفحوص نفسها داخل متصفحك دون رفع الملف أو تخزينه. وقد اختُبر على 100 حالة اختبار للتطوير و100 حالة للقبول منشورة بترخيص CC BY 4.0: نجحت حالات التطوير الـ100 كلها، و96 من حالات القبول الـ100.

إعداد: Bayanat Labs· آخر تحديث · Apache-2.0· Read in English
الترخيصApache-2.0 للشيفرة وتطبيق الويب، وCC BY 4.0 لحالات الاختبار ومصفوفة اصطلاحات المواضع والتوثيق، والبيانات المشتقة من Unicode بترخيص Unicode License v3
الإصدارv0.1.0 · الشيفرة وحالات الاختبار وتطبيق الويب v0.1.0، موسومة على GitHub، وغير موجودة على PyPI بعد.
تاريخ النشر
آخر تحديث
لمن هذا الإصدارالفرق التي توسم بيانات الكيانات المسمّاة العربية أو تشتريها أو تسلّمها، والمهندسون الذين ينقلونها بين أدوات الوسم وشيفرة التدريب، ممن يريدون كشف أخطاء المواضع والتطبيع والحدود والوسوم قبل التدريب أو التسليم.
المستوىمتوسط

Arabic NER NER annotation validator character offsets BIO tagging Arabic NLP

أرقام رئيسية

27رمزًا للنتائج، لكل منها رسالة بالعربية والإنجليزية
20منها للأخطاء
2للتحذيرات
5للملاحظات
18فئة من العيوب في حالات الاختبار، إضافة إلى سجلات سليمة
100حالة اختبار للتطوير، كُتبت قبل شيفرة المدقّق
100حالة تطوير ناجحة، بالرموز والاقتراحات المتوقعة نفسها
100حالة اختبار للقبول، كُتبت على حدة من قائمة الفئات وحدها
96حالة قبول ناجحة
86حالة قبول ناجحة على الإصدار الذي جُمِّد قبل قراءة حالات القبول
51سجلًا من الحالات السليمة قورنت بمحوّلات المواضع ووسوم BILUO في spaCy، واتفقت النتائج في كل المقارنات
18000مُدخل عشوائي قورنت عليه حزمة Python ونسخة المتصفح
0اختلاف بين الاثنتين
13صفًا في مصفوفة اصطلاحات المواضع: كيف تعدّ الأدوات الشائعة المواضع
20نصًا عربيًا اختباريًا قيست عليه المصفوفة

تُحسب آليًا من الملفات المنشورة. يُقرأ كل رقم من ملف docs/qa/numbers.json الصادر عند الوسم v0.1.0، والذي يعيد سكربت المستودع نفسه حسابه، ويُربط بقيمة SHA-256 للملف. ويذكر ملف MANIFEST.json في مجموعة حالات الاختبار عدد الحالات لكل قسم وفئة مع بصماتها، ويسرد ملف MANIFEST.json في تطبيق الويب كل ملف يقدّمه مع قيمته.

التنزيل والمعرّفات

ابدأ الاستخدام

ثبّت المكتبة وأداة سطر الأوامر من GitHub عند وسم الإصدار v0.1.0، فالحزمة غير موجودة على PyPI بعد. أما تطبيق الويب فلا يحتاج إلى تثبيت.

pip install "git+https://github.com/Bayanat-Labs/arabic-ner-validator@v0.1.0"

arabic-ner-validator check annotations.jsonl --json report.json
arabic-ner-validator check export.jsonl --format doccano --offset-unit utf16 --clitic-policy exclude -v
arabic-ner-validator check train.conll --format conll --scheme BIOES
arabic-ner-validator convert export.jsonl --format spacy --offset-unit codepoint --to BILUO
arabic-ner-validator codes

ما الذي يتضمنه الإصدار

الجزءالترخيصضمن الإصدار
تطبيق الويب على Hugging Face Spaces: الفحوص نفسها داخل متصفحك، والواجهة بالإنجليزية والعربيةApache-2.0نعم
مكتبة Python وأداة سطر الأوامر (arabic-ner-validator) لـ Python 3.10 أو أحدث، والمواضع بنقاط الترميز أو وحدات UTF-16 أو بايتات UTF-8 أو العناقيد الكتابيةApache-2.0نعم
حالات الاختبار (للتطوير والقبول، ومتاحة أيضًا مجموعةَ بيانات على Hugging Face) وأمثلة المدخلات المرفوضة ومصفوفة اصطلاحات المواضع ومخططات JSON والتوثيقCC BY 4.0نعم
قائمة انزياح التطبيع واختبارات حدود العناقيد الكتابية المشتقة من قاعدة بيانات محارف Unicode بإصداريها 16.0.0 و17.0.0Unicode License v3، وحقوق النشر لشركة Unicodeنعم
خط IBM Plex Sans Arabic في تطبيق الويب، دون تعديل (SIL Open Font License 1.1)SIL Open Font License، وحقوق النشر لشركة IBMنعم

صيغة النسبة: Arabic NER Offset Validator (arabic-ner-validator) by Bayanat Labs. https://github.com/Bayanat-Labs/arabic-ner-validator

الاستخدامات المقصودة

  • فحص ملف وسوم كيانات مسمّاة عربية قبل التدريب أو التسليم أو القبول، مع رمز لكل نتيجة.
  • كشف المواضع المحسوبة بوحدة خاطئة، أو النص الذي تغيّر بعد الوسم، عند نقل البيانات بين doccano وLabel Studio وspaCy وCoNLL وصفوف توكنات Hugging Face.
  • التحويل بين المواضع الحرفية ووسوم BIOES أو BILUO وفحص تسلسل الوسوم، في السكربتات والتكامل المستمر.

خارج النطاق

  • الحكم على صحة تصنيف الكيان: يفحص المدقّق المواضع والنص والحدود وبنية الوسوم، لا معنى التصنيف.
  • إصلاح البيانات دون مراجعة: تُسرد المواضع المقترحة في فرق قابل للتدقيق، ولا تغيّر النسخة المُصلَحة إلا المواضع.

الحقوق باختصار

التدريب والعرض وإعادة التوزيع وإنشاء الأصوات الاصطناعية أذونات منفصلة.

الاستخدامالحالةملاحظة
التدريبلا ينطبقمدقّق وحالات اختبار، وليست بيانات تدريب. وحالات الاختبار بترخيص CC BY 4.0 إذا أعدت استخدامها.
العرضمسموححالات الاختبار والمصفوفة والتوثيق بترخيص CC BY 4.0 مع نسبتها إلى المصدر.
إعادة التوزيعمسموحالشيفرة بترخيص Apache-2.0، وحالات الاختبار والمصفوفة والتوثيق بترخيص CC BY 4.0، والبيانات المشتقة من Unicode بترخيص Unicode License v3، والخط المرفق بترخيص SIL Open Font License.
الصوت الاصطناعيلا ينطبقلا يتضمن ملفات صوتية.

القيود

  • يجب إعلان وحدة المواضع، فالمدقّق لا يخمّنها أبدًا.
  • بعض التغييرات لا تترك أثرًا في السجل: حين يُطبَّع النص المخزَّن ونصوص الامتدادات كلاهما بعد الوسم، يذكر المدقّق عدم التطابق لكنه لا يستطيع تسمية السبب. ويشرح تقرير الجودة كل حالة قبول لم تنجح.
  • تنجح 96 من حالات القبول الـ100، ونجحت 86 منها على الإصدار الذي جُمِّد قبل قراءة حالات القبول. والتغييرات التي أُجريت بعد قراءتها مذكورة في سجل التغييرات، ولم تُعدَّل أي حالة اختبار.
  • يحصل الامتداد الذي ينتهي بعلامة ترقيم عربية على تحذير، وقد تسمح به إرشادات المشروع نفسه.
  • حالات الاختبار جمل اصطناعية كُتبت لهذه المجموعات، بأسماء أماكن ومؤسسات وشخصيات عامة أو تاريخية أو أسماء متخيَّلة. لم يراجع النصَّ العربي بعدُ كاتبٌ لغته الأم العربية، والنص الإنجليزي هو المعتمد.
  • ثبّت المدقّق من GitHub حاليًا، فالحزمة غير موجودة على PyPI بعد.

المصادر والتراخيص

المصدرالترخيصيُعاد توزيعه هنا
Unicode Character Database 16.0.0 and 17.0.0 (UnicodeData.txt, DerivedNormalizationProps.txt, GraphemeBreakTest.txt)Unicode License v3، والجداول المشتقة مرفقة مع الإشعارنعم
spaCy 3.8.18, used as a test oracle for the BILUO conversionsMIT، ويُستخدم في الاختبارات فقط ولا يُرفقلا
Label Studio and doccano source code, read for the offset-convention matrixApache-2.0 لـ Label Studio وMIT لـ doccano، ويُستشهد بها بالملف والسطر وبصمة SHA-256 دون تضمين أي شيفرةلا

كُتبت حالات الاختبار لهذا المدقّق: جمل اصطناعية بأسماء أماكن ومؤسسات وشخصيات عامة أو تاريخية أو أسماء متخيَّلة، ولا تصف أي جملة شخصًا حقيقيًا من الأفراد. وقيست مصفوفة اصطلاحات المواضع على 20 نصًا عربيًا اختباريًا باستخدام Python وJavaScript في Node وChromium وspaCy ومُجزِّئات Hugging Face السريعة، أما صفّا Label Studio وdoccano فقُرئا من شيفرتهما المصدرية ولم يُقاسا. تفاصيل المصادر (بالإنجليزية)

طريقة الاستشهاد

صيغة الاستشهاد:

Bayanat Labs (2026). Arabic NER Offset Validator (arabic-ner-validator), version 0.1.0. Bayanat Labs. https://github.com/Bayanat-Labs/arabic-ner-validator

لا يوجد معرّف DOI. استشهد بالرابط الوارد في صيغة الاستشهاد أعلاه وبتاريخ اطلاعك عليه.

@misc{bayanatlabs2026arabicnervalidator,
  author       = {{Bayanat Labs}},
  title        = {Arabic NER Offset Validator (arabic-ner-validator), version 0.1.0},
  year         = {2026},
  month        = oct,
  howpublished = {\url{https://github.com/Bayanat-Labs/arabic-ner-validator}}
}

كيف نتعامل مع الاستشهاد (بالإنجليزية)

سجل التغييرات

التاريخالإصدارالتغيير
v0.1.0مكتبة Python وأداة سطر الأوامر وحالات الاختبار ومصفوفة اصطلاحات المواضع على GitHub، وتطبيق الويب بالإنجليزية والعربية على Hugging Face Spaces، وحالات الاختبار مجموعةَ بيانات على Hugging Face.

التصحيح وطلبات الإزالة

إذا وجدت في هذا الإصدار ما لا ينبغي وجوده أو ما يحتاج إلى تصحيح، فراسلنا على hello@bayanatlabs.com. نعالج طلبات الإزالة خلال 30 يومًا، وطلبات المنصات خلال 24 ساعة. كيف تعمل طلبات الإزالة

المنتج المرتبط: Bayanat Documents

هل تحتاج إلى بيانات جاهزة للإنتاج وواضحة الحقوق؟

ننشر مجانًا بيانات اختبار اصطناعية ومعايير تقييم مفتوحة ونتائج وشيفرات وأدلة. أما البيانات على نطاق واسع فتُرخَّص أو تُبنى حسب الطلب: مجموعات بيانات عربية جاهزة للترخيص من الكلام والنصوص، ينصّ الاتفاق فيها صراحةً على حقوق الاستخدام التجاري في الذكاء الاصطناعي، إضافة إلى الجمع والتوسيم والتقييم حسب الطلب.

Bayanat Documents: ابنِ مجموعة بيانات للمستندات التي يقرؤها منتجك، من الفواتير ثنائية اللغة إلى الاستمارات المكتوبة بخط اليد. احصل على النص والتخطيط والحقول المستخرجة والأدلة على الإجابات التي تحتاجها.

إصدارات مفتوحة أخرى
LabelBench من Bayanat Labs ← مختبر موثوقية الوكلاء بالعربية من Bayanat Labs ← مجموعة بدء تقييم الاسترجاع العربي من Bayanat Labs ← قالب إرشادات توسيم البيانات العربية من Bayanat Labs ← سياسة البرنامج المفتوح ودليل التشغيل من Bayanat Labs ← قالب مجموعات البيانات وحزمة أدوات الإصدار من Bayanat Labs ← أداة توحيد النص العربي من Bayanat Labs (arabic-normalize) ← قوالب موافقة المساهمين من Bayanat Labs ← ArabicWER من Bayanat Labs: حساب معدل خطأ الكلمات والحروف للعربية ← حزمة اختبار مطابقة يونيكود للنص العربي من Bayanat Labs ← مراجع الصيغ الخليجية واختبارات التحويل بين المنطوق والمكتوب من Bayanat Labs ← أطلس الوثائق العربية من Bayanat Labs ← حزمة البيانات الشخصية العربية لـ Presidio من Bayanat Labs ← مؤشر ضريبة الترميز العربية من Bayanat Labs ← أزواج القنوات للتعرّف على الكلام العربي من Bayanat Labs ← مدقّق توافق تراخيص البيانات من Bayanat Labs ← متتبّع نماذج الذكاء الاصطناعي العربية من Bayanat Labs ← استخراج حقول النماذج العربية من Bayanat Labs ← الاستدلال على البيانات العامة بالعربية من Bayanat Labs ← أطلس أماكن العالم العربي من Bayanat Labs ← فهرس حقوق مجموعات البيانات العربية من Bayanat Labs ← ويكيبيديا العربية الشهرية من Bayanat Labs ← حاسبة ضريبة التوكنات العربية من Bayanat Labs ← شريحة ويكي بيانات للعالم العربي من Bayanat Labs ← عدّاد ساعات الكلام العربي المفتوح من Bayanat Labs ← المعجم الجغرافي العربي من Bayanat Labs ←

لم يراجع النصَّ العربي بعدُ كاتبٌ لغته الأم العربية، والنص الإنجليزي هو المعتمد. (The Arabic text has not yet been reviewed by a native Arabic writer; the English governs.)