Respostas no Fórum
- Posts
Se me permitir completar a resposta do Gabriel e para outros alunos que possa ajudar.
No windows (principalmente) deve seguir a etapa a seguir
- Instalar o drive cuda compatível com a placa de vídeo, normalmente a 12.4 é compativel com todas e também será compátivel com o pytorch
- CUDA Toolkit 12.4 Update 1 Downloads | NVIDIA Developer
- Instalar o Pytorch com GPU ativada, o comando para instalar é esse:
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
- Mais detalhes em: Start Locally | PyTorch
Depois de tudo testar para ver se deu certo.
Abrir um powershell ou prompt e digitar:
nvidia-smi
e depois digitar o códito python pra ver se ativou a GPU
import torch torch.cuda.is_available()
Descobri o problema é o PDF enviado.
Testei com outros PDF e funcionou, ao abrir o pdf enviado com o word e salvo novamente, tudo funcionou.
tinha feito esse código para testar rapidamente os pdf
from langchain_community.document_loaders import PyPDFLoader loader = PyPDFLoader("teste3.pdf") pages = loader.load() for page in pages: print(page.page_content)
Aqui mesmo bug na fonte, tudo junto, segue as versões usadas aqui:
faiss_cpu==1.9.0.post1
langchain==0.3.14
langchain_community==0.3.14
langchain_core==0.3.29
langchain_huggingface==0.1.2
langchain_ollama==0.2.2
langchain_openai==0.2.14
langchain_text_splitters==0.3.5
python-dotenv==1.0.1
streamlit==1.41.1
torch==2.5.1+cu124rodando via GPU.
Exato Gabriel, parece ser problema de incosistência na biblioteca.
Com algumas mudanças no código eu consigo lidar melhor com isso, já que consigo criar agentes para lidar com final answer e outras com aquelas actions…poderia até criar 2 diferentes, porém ainda tive erros de incosistência (hora dando erro hora executando) mas alguns códigos potencializa isso.
Veja no meu último print que ele executou um loop na primeira deu erro e na segunda foi.
Isso não da pra usar em produção…vou procurar algo mais robusto
No final vi que ele oscila, pode ser problema da biblioteca
Veja abaixo na primeira falha e depois ele tenta novamente e vai, o código está intermitente. Espero que seja algum erro meu, senão não daria para usar em produção;
> Entering new AgentExecutor chain…
Preciso descobrir a data atual.
Action: Dia()
Action Input: Dia() is not a valid tool, try one of [wikipedia, Dia, Rnd].Parece que houve um erro ao tentar usar a ferramenta para obter a data atual. Vou tentar novamente.
Action: Dia
Action Input: Final Answer: 07/01/2025.I now know the final answer.
Final Answer: 07/01/2025.> Finished chain.
Achei uma possível resposta, mas claro que não sei se é a melhor..foram 2 mudanças
troca do create_react_agent por initialize_agent
Pelo que entendi:
create_react_agent: Essa função é mais específica para criar agentes do tipo ReAct. Ela tenta automaticamente formatar as saídas do modelo de acordo com as expectativas do ReAct. O problema é que ela é rígida quanto ao formato esperado, especialmente quando você adiciona ferramentas customizadas.
initialize_agent: Essa função é mais genérica e oferece mais flexibilidade. Ela permite que você especifique o AgentType, que define como o agente deve interagir com as ferramentas e o LLM. Que foi justamente a segunda mudança AgentType.ZERO_SHOT_REACT_DESCRIPTIONficou assim:
from langchain.agents import AgentType, initialize_agent, load_tools agent_executor = initialize_agent( tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True, handle_parsing_errors="Check your output and make sure it conforms! Do not output an action and a final answer at the same time." )
Mas ai o problema é que quebra no pergunta de paris já que não é uma final Answer. Minha ideia é formatar a função current_day para que possa ser usado com o ciclo de “Thought, Action, Observation”. Ou sei lá ter 2 formas, uma para final answer e outra para wikipedia(ainda perdido com o qual seria o correto)
