البدء مع ALLaM-7B-Instruct-preview

# -*- coding: utf-8 -*-
"""
مثال على استخدام نموذج ALLaM-AI/ALLaM-7B-Instruct-preview من Hugging Face.
"""
 
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
 
# --- الإعداد ---
MODEL_NAME = "ALLaM-AI/ALLaM-7B-Instruct-preview"
DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
print(f"استخدام الجهاز: {DEVICE}")
 
# --- تحميل النموذج والمُرمِّز ---
try:
    print(f"جاري تحميل النموذج: {MODEL_NAME}...")
    allam_model = AutoModelForCausalLM.from_pretrained(MODEL_NAME)
    print(f"جاري تحميل المُرمِّز: {MODEL_NAME}...")
    tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
    print("تم تحميل النموذج والمُرمِّز بنجاح.")
 
    allam_model = allam_model.to(DEVICE)
 
except Exception as e:
    print(f"خطأ في تحميل النموذج أو المُرمِّز: {e}")
    exit(1)
 
# --- إعداد الإدخال ---
messages = [
    {"role": "user", "content": "كيف أجهز كوب شاهي؟"},
]
 
# تطبيق قالب الدردشة
try:
    print("جاري تطبيق قالب الدردشة...")
    formatted_input_string = tokenizer.apply_chat_template(messages, tokenize=False)
    print(f"سلسلة الإدخال المنسقة:\n{formatted_input_string}")
 
    print("جاري ترميز الإدخال...")
    inputs = tokenizer(formatted_input_string, return_tensors='pt', return_token_type_ids=False)
    inputs = {k: v.to(DEVICE) for k, v in inputs.items()}
    print("تم إعداد الإدخال للنموذج.")
 
except Exception as e:
    print(f"خطأ في إعداد الإدخال: {e}")
    exit(1)
 
# --- توليد الاستجابة ---
print("جاري توليد الاستجابة...")
try:
    generation_params = {
        "max_new_tokens": 4096,
        "do_sample": True,
        "top_k": 50,
        "top_p": 0.95,
        "temperature": 0.6
    }
 
    with torch.no_grad():
        response_ids = allam_model.generate(**inputs, **generation_params)
 
    print("جاري فك ترميز الاستجابة...")
    decoded_response = tokenizer.batch_decode(response_ids, skip_special_tokens=True)[0]
 
    if decoded_response.startswith(formatted_input_string):
         final_output = decoded_response[len(formatted_input_string):].strip()
    else:
         final_output = decoded_response
 
    print("\n--- الاستجابة المولدة ---")
    print(final_output)
    print("--------------------------\n")
 
except Exception as e:
    print(f"خطأ أثناء التوليد أو فك الترميز: {e}")
    exit(1)
 
print("انتهى السكريبت بنجاح.")

python allam_example.py

/**
 * مثال على استخدام JavaScript للتفاعل مع نموذج ALLaM المستضاف على Hugging Face Spaces.
 */
 
// !!! استبدل هذا بعنوان URL الفعلي لنقطة نهاية API الخاصة بك !!!
const HF_SPACE_API_URL = "https://YOUR_USERNAME-YOUR_SPACE_NAME.hf.space/generate";
 
const userPrompt = "كيف أجهز كوب شاهي؟";
 
async function generateTextViaHFSpace(promptText) {
  console.log(`إرسال الطلب إلى HF Space: "${promptText}" على ${HF_SPACE_API_URL}`);
 
  if (HF_SPACE_API_URL.includes("YOUR_USERNAME-YOUR_SPACE_NAME")) {
    console.error("خطأ: يرجى استبدال HF_SPACE_API_URL بعنوان URL الفعلي لنقطة النهاية.");
    return null;
  }
 
  try {
    const response = await fetch(HF_SPACE_API_URL, {
      method: "POST",
      headers: {
        "Content-Type": "application/json",
      },
      body: JSON.stringify({ prompt: promptText }),
    });
 
    if (!response.ok) {
      throw new Error(`خطأ HTTP! الحالة: ${response.status}`);
    }
 
    const data = await response.json();
    console.log("تم استلام الاستجابة من HF Space.");
    return data.generated_text || data.response || data;
 
  } catch (error) {
    console.error("خطأ في استدعاء Hugging Face Space API:", error);
    throw error;
  }
}
 
// التنفيذ
(async () => {
  try {
    const generatedText = await generateTextViaHFSpace(userPrompt);
    if (generatedText !== null) {
        console.log("\n--- الاستجابة المولدة (من HF Space) ---");
        console.log(generatedText);
        console.log("------------------------------------------\n");
    }
  } catch (error) {
    console.error("فشل الحصول على التوليد من Hugging Face Space.");
  }
})();