metadata

license: mit
language:
  - pt
  - en
metrics:
  - accuracy
  - f1
  - precision
  - recall
pipeline_tag: text-generation
tags:
  - LLM
  - Portuguese
  - Bode
  - Alpaca
  - Llama 2
inference: false

BODE - GGUF VERSION

Bode Logo

Este repositório contém o modelo Bode de 7B de parâmetros em formato GGUF, na versão de 32 e 16 bits e também nas versões quantizadas de 8, 5 e 4 bits.

Bode é um modelo de linguagem (LLM) para o português desenvolvido a partir do modelo Llama 2 por meio de fine-tuning no dataset Alpaca, traduzido para o português pelos autores do Cabrita. Este modelo é projetado para tarefas de processamento de linguagem natural em português, como geração de texto, tradução automática, resumo de texto e muito mais. O objetivo do desenvolvimento do BODE é suprir a escassez de LLMs para a língua portuguesa. Modelos clássicos, como o próprio LLaMa, são capazes de responder prompts em português, mas estão sujeitos a muitos erros de gramática e, por vezes, geram respostas na língua inglesa. Ainda há poucos modelos em português disponíveis para uso gratuito e, segundo nosso conhecimento, não modelos disponíveis com 13b de parâmetros ou mais treinados especificamente com dados em português.

Acesse o artigo para mais informações sobre o Bode.

A versão do modelo Bode disponibilizada nesta página foi treinado com os recursos internos disponíveis no laboratório de pesquisas avançadas do Recogna.

Sobre o formato GGUF

O modelo no formato GGUF permite seu uso para inferência usando o llama.cpp, permitindo tanto o uso de CPU como de GPU, e outras bibliotecas e ferramentas compatíveis, como:

Detalhes do Modelo

Modelo Base: Llama 2
Dataset de Treinamento: Alpaca
Idioma: Português

Versões disponíveis

Quantidade de parâmetros	PEFT	Modelo
7b	✓	recogna-nlp/bode-7b-alpaca-pt-br
13b	✓	recogna-nlp/bode-13b-alpaca-pt-br
7b		recogna-nlp/bode-7b-alpaca-pt-br-no-peft
13b		recogna-nlp/bode-13b-alpaca-pt-br-no-peft
7b-gguf		recogna-nlp/bode-7b-alpaca-pt-br-gguf
13b-gguf		recogna-nlp/bode-13b-alpaca-pt-br-gguf

Uso

Segue um exemplo de uso da versão quantizada de 5 bits utilizando o ctransformers e o LangChain:


# Downloads necessários
!pip install ctransformers
!pip install langchain

from transformers import AutoModelForCausalLM, AutoTokenizer, GenerationConfig

from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
from langchain.llms import CTransformers

template = """Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que complete adequadamente o pedido.

### Instrução:
{instruction}

### Resposta:"""

prompt = PromptTemplate(template=template, input_variables=["instruction"])

llm = CTransformers(model="recogna-nlp/bode-7b-alpaca-pt-br-gguf", model_file="bode-7b-alpaca-q8_0.gguf", model_type='llama')
llm_chain = LLMChain(prompt=prompt, llm=llm)

response = llm_chain.run("O que é um bode?")
print(response)
#Exemplo de resposta obtida (pode variar devido a temperatura): Um bode é um animal de quatro patas e membros postiados atrás, com um corpo alongado e coberto por pelagem escura.

Treinamento e Dados

O modelo Bode foi treinado por fine-tuning a partir do modelo Llama 2 usando o dataset Alpaca em português, que consiste em um Instruction-based dataset. O treinamento foi realizado no Supercomputador Santos Dumont do LNCC, através do projeto da Fundunesp 2019/00697-8.

Citação

Se você deseja utilizar o Bode em sua pesquisa, pode citar este artigo que discute o modelo com mais detalhes. Cite-o da seguinte maneira:

    @misc{bode2024,
      title={Introducing Bode: A Fine-Tuned Large Language Model for Portuguese Prompt-Based Task}, 
      author={Gabriel Lino Garcia and Pedro Henrique Paiola and Luis Henrique Morelli and Giovani Candido and Arnaldo Cândido Júnior and Danilo Samuel Jodas and Luis C. S. Afonso and Ivan Rizzo Guilherme and Bruno Elias Penteado and João Paulo Papa},
      year={2024},
      eprint={2401.02909},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Contribuições

Contribuições para a melhoria deste modelo são bem-vindas. Sinta-se à vontade para abrir problemas e solicitações pull.