IPN/LIS/2025/CON38
-
Referência
IPN/LIS/2025/CON38 -
Unidade
Laboratório de Informática e Sistemas -
Área Científica
Engenharia Electrotécnica e Informática -
Local de Realização
Instituto Pedro Nunes -
Documentos
Modelo de contrato de bolsa
Modelo de relatório final
-
Apoio
-
Orientador
Marília Curado -
Instituição do orientador
Departamento de Engenharia Informática da FCTUC -
Categoria do orientador
Professor catedrático -
Objetivos
No âmbito do projeto COP-PILOT, será desenvolvida uma solução que permita agilizar tarefas de gestão e orquestração de redes, incorporando LLMs como método de realização do paradigma de gestão por intenção. Nesse âmbito, é crucial minimizar riscos associados a este tipo de componentes, tais como alucinação que resulte em ações danosas ou destrutivas (ex. remoção de dados do sistema em produção) ou ataques de injeção por prompt tendo em vista objetivos como para manipulação do sistema, exfiltração de dados confidenciais ou outros.
O objetivo central é investigar e incorporar uma camada de segurança sob funcionalidades pré-existentes de interpretação e invocação autónoma de APIs de orquestração de referência (ex. TMForum), considerando abordagens da literatura e indústria (OWASP) tais como guardrails, instruções alinhadas às políticas ou integração com mecanismos de Role Based Access Control (RBAC).
O presente concurso de bolsa enquadra-se no projeto COP-PILOT.
-
Tema do plano de trabalhos
Integração segura de LLMs para gestão intent-based de redes multi-dominio -
Plano de trabalhos
As tarefas a desempenhar no contexto desta bolsa incluem:
- investigação e compreensão de inovações recentes na área de processamento de linguagem natural (PLN), LLMs e agentes AI e abordagens para a sua integração segura;
- análise e definição de mecanismos para interpretação e processamento seguro de intenções relativas a operações de gestão ou orquestração de rede;
- análise e definição de mecanismos para geração segura de comandos que possibilitem a invocação correta de APIs, tendo em conta permissões do utilizador
- estudo e aplicação de guardrails relevantes no contexto de operação dos LLMs
- desenvolvimento de funcionalidades para a geração de testes de vulnerabilidades seguros a partir de relatórios
- desenvolvimento de funcionalidades para a integração e utilização segura de informação obtida por RAG ou abordagens análogas
- versionamento e documentação do código a desenvolver
- documentação técnica dos desenvolvimentos
-
Tipo de bolsa
BI - Bolsa de Investigação -
Montante
1040.98 € -
Renovável
Sim -
Método de pagamento
Mensal -
Duração
9 meses -
Número de bolsas
1 -
Destinatários
Estudantes de mestrado, mestrado integrado, ou de outros cursos não conferentes de grau, que já tenham realizado os 180 créditos correspondentes aos primeiros 6 semestres curriculares de trabalho, na área de Engenharia Informática, Engenharia Física, Engenharia Electrotécnica e de Computadores, Física, ou áreas afins. -
Documentação a entregar
a) Cópia de documento de identificação válido (Cartão de Cidadão ou Passaporte);
b) Curriculum Vitae do candidato;
c) Certificados de habilitações de todos os graus académicos obtidos, com média final e com as classificações em todas as disciplinas realizadas;
d) Comprovativo de inscrição num ciclo de estudos conducente a grau académico ou comprovativo de inscrição em cursos não conferentes de grau académico integrados no projeto educativo de uma instituição de ensino superior. -
Data de anúncio
2025-11-06 -
Data de início para entrega de candidaturas
2025-11-21 -
Data limite para entrega de candidaturas
2025-12-05
