Serg4451D commited on
Commit
f9cc19c
1 Parent(s): 539cfb3

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +27 -0
app.py ADDED
@@ -0,0 +1,27 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ import torch
3
+ from transformers import AutoTokenizer, AutoModelForCausalLM
4
+
5
+ # Загрузка модели и токенизатора RuBERT
6
+ model_name = "DeepPavlov/rubert-base-cased"
7
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
8
+ model = AutoModelForCausalLM.from_pretrained(model_name)
9
+
10
+ # Функция для генерации текста на основе модели
11
+ def generate_text(prompt):
12
+ # Токенизация входного текста
13
+ input_ids = tokenizer.encode(prompt, return_tensors='pt')
14
+ # Генерация продолжения текста с помощью модели
15
+ output = model.generate(input_ids, max_length=100)
16
+ # Декодирование сгенерированного текста
17
+ return tokenizer.decode(output[0], skip_special_tokens=True)
18
+
19
+ # Создание интерфейса Gradio
20
+ iface = gr.Interface(
21
+ fn=generate_text,
22
+ inputs=gr.inputs.Textbox(placeholder="Введите текст для генерации"),
23
+ outputs=gr.outputs.Textbox(label="Сгенерированный текст")
24
+ )
25
+
26
+ # Запуск интерфейса Gradio
27
+ iface.launch()