akupriyanovhse

BERT Фрейм-анализ

Apr 17th, 2026
50
0
Never
Not a member of Pastebin yet? Sign Up, it unlocks many cool features!
Python 6.32 KB | None | 0 0
  1. import os
  2. import torch
  3. from transformers import AutoTokenizer, AutoModel
  4. from torch.nn.functional import cosine_similarity
  5.  
  6. # ══════════════════════════════════════════════
  7. # НАСТРОЙКИ
  8. # ══════════════════════════════════════════════
  9. MODEL_NAME = "cointegrated/rubert-tiny2"
  10. MODELS_DIR = "models"
  11.  
  12. # ══════════════════════════════════════════════
  13. # Загрузка модели
  14. # ══════════════════════════════════════════════
  15. local_path = os.path.join(MODELS_DIR, MODEL_NAME.replace("/", "_"))
  16.  
  17. if os.path.exists(local_path):
  18.     print(f"✓ Модель найдена на диске: {local_path}")
  19.     tokenizer = AutoTokenizer.from_pretrained(local_path)
  20.     model = AutoModel.from_pretrained(local_path)
  21. else:
  22.     print(f"⏳ Скачиваю «{MODEL_NAME}»...")
  23.     tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
  24.     model = AutoModel.from_pretrained(MODEL_NAME)
  25.     os.makedirs(local_path, exist_ok=True)
  26.     tokenizer.save_pretrained(local_path)
  27.     model.save_pretrained(local_path)
  28.     print(f"✓ Модель сохранена в: {local_path}\n")
  29.  
  30. # ══════════════════════════════════════════════
  31. # Функция получения эмбеддинга
  32. # ══════════════════════════════════════════════
  33. def get_embedding(text):
  34.     inputs = tokenizer(text, return_tensors="pt",
  35.                        truncation=True, max_length=512)
  36.     with torch.no_grad():
  37.         outputs = model(**inputs)
  38.     return outputs.last_hidden_state[:, 0, :].squeeze()
  39.  
  40. # ══════════════════════════════════════════════
  41. # ФРЕЙМ-АНАЛИЗ
  42. # ══════════════════════════════════════════════
  43.  
  44. # Определяем фреймы — каждый описан набором характерных фраз
  45. frames = {
  46.     "угроза / безопасность": [
  47.         "угроза национальной безопасности",
  48.         "опасность для граждан",
  49.         "защита от внешнего врага",
  50.         "террористическая угроза",
  51.     ],
  52.     "экономическая выгода": [
  53.         "экономический рост",
  54.         "инвестиции и развитие",
  55.         "рабочие места и доходы",
  56.         "повышение благосостояния",
  57.     ],
  58.     "права человека": [
  59.         "нарушение прав и свобод",
  60.         "ущемление гражданских прав",
  61.         "свобода слова и собраний",
  62.         "защита прав меньшинств",
  63.     ],
  64.     "патриотизм / единство": [
  65.         "национальное единство",
  66.         "сплочение народа",
  67.         "патриотический долг",
  68.         "защита отечества",
  69.     ],
  70. }
  71.  
  72. # Считаем средний эмбеддинг для каждого фрейма
  73. frame_embeddings = {}
  74. for frame_name, phrases in frames.items():
  75.     embs = [get_embedding(p) for p in phrases]
  76.     frame_embeddings[frame_name] = torch.stack(embs).mean(dim=0)
  77.  
  78. # ══════════════════════════════════════════════
  79. # Анализируемые заголовки / фрагменты
  80. # ══════════════════════════════════════════════
  81. texts = [
  82.     "Новый закон ужесточает контроль на границе для предотвращения терактов",
  83.     "Строительство моста создаст тысячи рабочих мест в регионе",
  84.     "Протестующие требуют отмены закона, ограничивающего свободу собраний",
  85.     "Президент призвал граждан сплотиться перед лицом внешних вызовов",
  86.     "Правозащитники заявили о массовых задержаниях на митинге",
  87.     "Проект увеличит ВВП региона на 3% в ближайшие два года",
  88.     "Военные учения прошли у западных границ страны",
  89.     "Активисты подали иск о нарушении конституционных свобод",
  90. ]
  91.  
  92. # ══════════════════════════════════════════════
  93. # Определяем доминирующий фрейм для каждого текста
  94. # ══════════════════════════════════════════════
  95. print("═" * 70)
  96. print(f"{'ТЕКСТ':50s} {'ФРЕЙМ':>18s}")
  97. print("═" * 70)
  98.  
  99. for t in texts:
  100.     t_emb = get_embedding(t)
  101.     scores = {}
  102.     for frame_name, frame_emb in frame_embeddings.items():
  103.         scores[frame_name] = cosine_similarity(
  104.             t_emb, frame_emb, dim=0
  105.         ).item()
  106.  
  107.     best_frame = max(scores, key=scores.get)
  108.     best_score = scores[best_frame]
  109.  
  110.     print(f"{t[:48]:50s} → {best_frame} ({best_score:.0%})")
  111.  
  112. # Детальный разбор одного текста
  113. print("\n" + "─" * 70)
  114. print("Детальный разбор: «" + texts[0][:45] + "...»\n")
  115. t_emb = get_embedding(texts[0])
  116. for frame_name, frame_emb in frame_embeddings.items():
  117.     score = cosine_similarity(t_emb, frame_emb, dim=0).item()
  118.     bar = "█" * int(score * 40)
  119.     print(f"  {frame_name:25s} {score:.3f}  {bar}")
Tags: frame bert
Advertisement
Add Comment
Please, Sign In to add comment