Search

Dissertação (mestrado) — Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, Mestrado Profissional em Engenharia Elétrica, 2022. A investigação digital é uma tarefa desafiadora composta por várias etapas e procedimentos que são muitas vezes lentos e propensos a erros. Da coleta de informações à análise e comunicação de resultados, muitas subtarefas são dependentes de soluções tecnológicas que visam reduzir a sobrecarga de informações que os investigadores enfrentam. Algumas ferramentas forenses oferecem mecanismos para automatizar pesquisas e categorizações de objetos e dados relevantes, mas ainda não têm suporte para cenários complexos e dinâmicos, especialmente em aplicações de Big Data. A maioria desses dados não é estruturada, o que significa que é mais difícil organizar e encontrar insights significativos. Avanços recentes em Machine Learning (ML) e, mais especificamente, em Processamento de Linguagem Natural (NLP) trouxeram à existência novas arquiteturas e modelos de linguagem que podem ser usados para aumentar significativamente o desempenho de tarefas de Extração de Informações (IE), como Reconhecimento de Entidades Mencionadas (NER) e Extração de Relacionamentos (RE). Este trabalho propõe uma configuração reproduzível para construir, testar e ajustar um pipeline de extração de informação que pode ser aplicado a investigações forenses cibernéticas usando NLP de textos em diferentes idiomas. As tarefas de NER e RE são profundamente exploradas e discutidas, com base nos mais recentes modelos de linguagem natural, como BERT e RoBERTa. Também é discutido como otimizar o desempenho de um modelo de NLP ajustando seus hiperparâmetros, validando seu desempenho com métricas de avaliação padrão e comparações com benchmarks bem conhecidos. O pipeline proposto também é aplicado a diferentes cenários com exemplos hipotéticos mas realistas, culminando com a apresentação de grafos de conhecimento abrangentes para análise de informações. Os componentes do pipeline são organizados de forma que seja possível configurar classes de entidade e de relacionamento para diferentes domínios de aplicação com alterações mínimas, não limitadas ao contexto da análise forense cibernética nem a uma linguagem específica. Os resultados apresentados neste trabalho tanto para o português quanto para o inglês alcançaram níveis de desempenho do estado da arte seguindo as etapas propostas para cada tarefa, corroborando a ideia de que o processamento por etapas tem potencial para melhorar ainda mais o resultado final. Digital investigation is a challenging task composed of several steps and procedures that are often slow and error-prone. From collection to analysis and reporting, many sub-tasks are dependent on technological solutions that aim to reduce the overhead of information the investigators face. Some forensic tools offer mechanisms to automate searches and categorizations of relevant objects and data, but they still lack support for complex and dynamic scenarios, especially regarding Big Data applications. Most of this data is unstructured, meaning it is harder to organize and find meaningful insights. Recent advances in Machine Learning (ML) and, more specifically, in Natural Language Processing (NLP) brought to existence new architectures and language models that can be used to significantly increase the performance of Information Extraction (IE) tasks, such as Named Entity Recognition (NER) and Relation Extraction (RE). This work proposes a reproducible setup to build, test and fine-tune an information extraction pipeline that can be applied to cyber forensics investigations using NLP of texts in different languages. The tasks of NER and RE are deeply explored and discussed, based on the latest state-of-the-art language models such as BERT and RoBERTa. It is also discussed how to optimize the performance of an NLP model by tuning its hyper-parameters, validating their performance with standard evaluation metrics and comparisons with well-known benchmarks. The proposed pipeline is also applied to different application scenarios with hypothetical yet realistic examples, culminating with the presentation of comprehensive knowledge graphs for structured information analysis. The components of the pipeline are organized in such a way that makes it possible to configure both entity and relationship classes for different application domains with minimal changes, not limited to the cyber forensics context nor a specific language. The results presented in this work for both Portuguese and English achieved state-of-the-art performance following the steps proposed for each task, corroborating the idea that staged processing has the potential to further improve the final result.

The differences between unstructured natural language and structured data make it challenging to build a computational system that supports the use of Natural Language to query Knowledge Graphs. An alternative to this problem is to use QA systems to perform queries to make this connection between data and questions in natural language. Therefore, these systems are accessible to users who do not have technical knowledge in accessing information in Knowledge Graphs, thus eliminating the need to learn complex query languages and schemas. However, using these systems presents some problems, mainly limitations in the variations observed in the natural language and the strong dependence on human interference. This work proposes a complete framework for querying Knowledge Graphs in natural language based on templates built with the help of common sense knowledge. This framework is composed of a QA system based on templates and a dataset of KGQA, along with a set of algorithms and techniques in each module of the system that can use in other approaches. Finally, ExQuestions, a question and answer dataset with multiple questions paraphrased using common sense knowledge. The main differences of our framework are: (a) how a common-sense knowledge base is used to improve the variability of the generated dataset and (b) the use of a Open IE system to improve the quality of the generated templates. Furthermore, we propose an indexing technique to retrieve the answer to the question submitted to the QA system and an experimental methodology to verify the quality of this type of system. The results obtained in this work provide contributions to the state-of-the-art of QA systems on KBQA and, finally, we make notes for future research. As diferenças entre a linguagem natural não estruturada e os dados estruturados dificultam a construção de um sistema computacional que suporte o uso da Linguagem Natural para consultar Grafos de Conhecimento. Uma alternativa para esse problema é recorrer a sistemas de Question-Answering (QA) na realização de consultas com o intuito de criar pontes entre os dados e as questões em linguagem natural. Esses sistemas são acessíveis a usuários sem conhecimento técnico quanto às informações em Grafos de Conhecimento, possibilitando o seu uso sem a necessidade de experiência em linguagens de consulta ou schemas complexos. Contudo, o uso desses sistemas apresenta alguns problemas, principalmente limitações nas variações observadas na linguagem natural, bem como uma forte dependência de interferência humana. Este trabalho propõe um framework completo para a consulta em linguagem natural sobre Grafos de Conhecimento baseado em templates construídos com o auxílio de conhecimento de senso comum. O framework é composto por (i) um sistema de QA baseado em templates, (ii) um conjunto de dados de QA over Knowledge Graphs (KGQA) com várias perguntas parafraseadas usando conhecimento de senso comum e (iii) conjunto de algoritmos e técnicas em cada módulo do sistema que podem ser aproveitadas em outras abordagens. São os principais diferenciais do nosso framework (a) a forma com que uma base de conhecimento de senso comum é usada para melhorar a variabilidade do conjunto de dados gerados e (b) o uso de um sistema Open IE para conferir maior qualidade nos templates gerados. Ademais, propomos uma técnica de indexação para recuperação da resposta à pergunta submetida ao sistema de QA e uma metodologia experimental para verificar a qualidade desse tipo de sistema. Os resultados obtidos neste trabalho fornecem contribuições para o estado-da-arte de sistemas de QA sobre QA over Knowledge Bases (KBQA). Por fim, realizamos apontamentos para pesquisas futuras.

Os registros (logs) de alarmes e eventos compõem um volumoso e dormente repositório de dados históricos de natureza tabular, comumente sub-valorada ou negligenciada na indústria. Embora constituam fontes potencialmente ricas em informações relevantes sobre a planta ou processo monitorado, esses registros são tomados para análise apenas como último recurso, sobretudo devido às dificuldades impostas pelo grande volume e baixa expressividade dessas bases. Tal indiligência não se mostra mais admissível no cenário contemporâneo de orientação a dados, já ubíquo em diversos setores produtivos e que vem se apresentando fortemente na manufatura tradicional, sobretudo pelo advento do paradigma da Indústria 4.0. Propõe-se, assim, a transposição dessas bases para um domínio de representação mais expressivo e flexível, propiciando uma exploração mais proativa dos episódios narrados nos registros e, consequentemente, ensejando tarefas de análise de incidentes, de anormalidades, de conformidade e de desempenho mais céleres. Para isso, a partir do reconhecimento de uma ontologia, entidades, atributos e associações virtualmente imersas no contexto operacional historiado nos registros são mapeados em um grafo de conhecimento (do inglês, Knowledge Graph - KG). A abordagem utiliza técnicas de Análise Exploratória de Dados, Processamento de Linguagem Natural, Análise de Redes, Análise Multivariada e Indicadores Compostos para derivar dos dados uma miríade de aspectos, propriedades e relacionamentos (arestas) de natureza hierárquica, temporais e de similaridade instituídos entre as entidades (nós) identificadas. A visualização do KG se dá de forma dinâmica e interativa, com diferentes modos de visualização e níveis de detalhamento. Cenários de avaliação são desenhados para demonstrar a eficácia da abordagem. Alarm and event logs make up a voluminous and dormant historical repository of tabular-like data, commonly undervalued or overlooked in manufacturing. Although they are a potentially rich source of relevant information about the monitored plant or process, these records are taken for analysis only as a last resort, mainly due to the difficulties imposed by the large volume and low expressiveness of those databases. Such oversight is no longer acceptable in the contemporary data-oriented scenario, already ubiquitous in several productive sectors and gaining prominence in traditional manufacturing, especially due to the advent of the Industry 4.0 paradigm. Therefore, it is proposed to transpose these bases to a more expressive and flexible representation domain, allowing a more proactive exploration of the episodes reported in the records and, consequently, entailing more agile incident, anomaly, compliance, and performance analysis tasks. For such, from the recognition of an ontology, entities, attributes, and associations virtually immersed in the operational context described in the records are mapped into a Knowledge Graph (KG). The approach uses Exploratory Data Analysis, Natural Language Processing, Network Analysis, Multivariate Analysis, and Composite Indicators techniques to derive a myriad of aspects, properties, and relations from data, which are incorporated as hierarchical, temporal, and similarity relationships (edges) between identified entities (nodes). The visualization of the KG is dynamic and interactive, with different visualization modes and levels of detail. Evaluation scenarios are designed to demonstrate the effectiveness of the approach.

A Medicina Personalizada é um modelo de prática médica que utiliza o perfil fenotípico e genotípico do indivíduo para melhorar a precisão do diagnóstico, a eficácia terapêutica ou a prevenção de doenças. Neste sentido, a enorme quantidade de dados gerados ao longo dos últimos anos na área biomédica tem contribuído para uma melhor compreensão dos determinantes genéticos de várias patologias e, consequentemente, para a implementação de práticas de Medicina Personalizada em várias áreas, por exemplo na Oncologia e no âmbito das doenças raras. No entanto, ainda subsistem desafios significativos, nomeadamente no que diz respeito à integração de dados biomédicos oriundos de fontes heterogéneas e na obtenção de informação clinicamente relevante. Este trabalho descreve uma abordagem que usa métodos de aprendizagem automática aplicados a um Grafo de Conhecimento (GC) biomédico como um meio para integrar informação armazenada em bases de dados diversas. Este GC contém relações entre genes, doenças e outras entidades biológicas, extraídas de três bases de dados: Ensembl, DisGeNET e Gene Ontology. Neste trabalho exploramos o potencial dos métodos de aprendizagem automática em grafos para produzir informação clinicamente relevante e descrevemos a aplicação desta metodologia à previsão de associações gene-doença. Mostramos ainda que as principais associações gene-doença previstas por esta abordagem podem ser confirmadas em bases de dados externas ou já foram previamente identificadas na literatura. Personalized Medicine is a model of medical practice that uses an individual's phenotypic and genotypic profile to improve diagnostic accuracy, therapeutic efficacy or disease prevention. The huge amount of data generated over the last few years in the biomedical area has contributed to a better understanding of the genetic determinants of various pathologies and, consequently, to the implementation of Personalized Medicine practices in various areas, for example in Oncology and in the field of rare diseases. However, significant challenges remain, namely with regard to the integration of biomedical data from heterogeneous sources to obtain clinically relevant information. This work describes an approach that uses machine learning methods applied to a biomedical Knowledge Graph (KG) as a means to integrate information stored in different databases. To build the KG, three databases were used: Ensembl, DisGeNET and Gene Ontology. This KG contains relationships between genes, diseases, and other biological entities. In this work, we explore the potential of automatic graph learning methods to produce clinically relevant information and describe the application of this methodology to the prediction of gene-disease associations. We show that the main gene-disease associations predicted by this approach can be confirmed in external databases or have been previously identified in the literature. info:eu-repo/semantics/publishedVersion

Integrar dados gerados por pesquisas científicas é uma atividade cada vez mais importante para a evolução da Ciência de Dados. Tal integração pode ser realizada com o auxílio de esquemas de dados (modelos), que definem como estes devem ser compreendidos, relacionados e formatados, determinando como são organizados. Contudo, se por um lado esquemas de dados relacionais pré-definidos possam favorecer a sua integração, compartilhamento e reúso pelos membros de uma comunidade científica, por outro, retiram a flexibilidade de representação dos dados pelo pesquisador, já que este deve respeitar o esquema pré-definido, caso intencione compartilhar seus dados com a comunidade. A pesquisa visa explorar e propor uma forma de integrar dados que não se prende à rigidez de esquemas relacionais pré-definidos. Propõe-se a utilização de ontologias para permitir que cada estudo científico utilize um desenho conceitual próprio, e ainda mantenha a capacidade de integração e reúso dos dados coletados pelo estudo. A integração é obtida a partir dos conceitos comuns aos estudos, definidos formalmente por ontologias. Espera-se que o uso de ontologias contribua para a interoperabilidade de dados e sistemas. Ao invés de esquemas relacionais rígidos, utiliza-se estruturas canônicas em formato de triplas: ``sujeito'', ``predicado'' e ``objeto'',interligadas e constituindo um grafo. O objetivo da pesquisa é desenvolver um método iterativo para facilitar a realização do processo de integração semântica de dados produzidos durante pesquisas científicas. O método permite que o pesquisador conceba a ontologia de domínio (que integra os dados) em ciclos curtos de desenvolvimento, ao longo da pesquisa. Esta é a principal contribuição do método proposto. Ele dispensa o pesquisador de ter que desenvolver a ontologia de integração, para somente depois integrar os dados. Fundamentado na Agile Design Science Research Methodology, ele permite integrar os dados e evoluir a ontologia a cada ciclo, com a participação de todos os atores envolvidos. Durante a fase de validação dos resultados desta pesquisa, notou-se que a colaboração entre todos os envolvidos foi facilitada com o uso do método proposto, e as decisões puderam ser tomadas mais prontamente em vista do acesso precoce dos mesmos aos dados e informações integradas semanticamente, cuja análise foi realizada com o auxílio de artefatos elaborados para esta finalidade. O método foi validado, utilizando-se uma pesquisa que integrou dados socioeconômicos e ambientais com informações sobre casos de dengue e esquistossomose no Brasil. Integrating data generated by scientific research is an increasingly important activity for the evolution of Data Science. Such integration can be accomplished with the aid of data schemes (models), which define how they should be understood, related and formatted, determining how they are organized. However, if, on the one hand, predefined relational data schemes can favor their integration, sharing and reuse by members of a scientific community, on the other hand, they remove the flexibility of data representation by the researcher, since he must respect the pre-defined scheme if he intends to share your data with the community. The research aims to explore and propose a way to integrate data without the rigidity of pre-defined relational schemes. It is proposed to use ontologies to allow each scientific study to use its own conceptual design, and still maintain the ability to integrate and reuse the data collected by the study. The Integration is obtained from concepts common to studies, formally defined by ontologies. The use of ontologies is expected to contribute to the interoperability of data and systems. Instead of rigid relational schemes, canonical structures in the form of triples of ``subject'', ``predicate'' and ``object'' are used, interconnected and constituting a graph. The objective of the research is to develop an iterative method to facilitate the realization of the process of semantic integration of data produced during scientific research. The method allows the researcher to design the domain ontology (which integrates the data) in short development cycles, throughout the research. This is the main contribution of the proposed method. It frees the researcher from having to develop the integration ontology, only to later integrate the data. Based on the Agile Design Science Research Methodology, it allows integrating data and evolving ontology with each cycle, with the participation of all the actors involved. During the validation phase of the results of this research, it was noted that collaboration between all involved was facilitated with the use of the proposed method, and decisions could be made more readily in view of their early access to data and semantically integrated information, whose analysis was performed with the aid of artifacts designed for this purpose. The method was validated, using a survey that integrated socioeconomic and environmental data with information on cases of dengue and schistosomiasis in Brazil.

Não recebi financiamento Knowledge Graphs have gained increasing prominence in the academic and corporate fields, generally in close association with Web technologies, linked data, big data and cloud computing. The present research is of a qualitative nature, has a descriptive character, and aims to carry out a theoretical study on the use of Knowledge Graphs in organizational environments, identifying the main contemporary challenges for the representation of knowledge, and possibilities of contribution from the Science area Information in the design and use of this instrument. As a result, it was identified that Knowledge Graphs are constituted from a combination of knowledge representation structures, information management processes and search algorithms, providing a didactic vision resulting from the combination of linked data, efficient and creative business processes. , determining an optimized solution architecture. In this sense, the relevance of the research is highlighted considering the plurality of definitions of the concept of Knowledge Graph and its value as a tool, according to the corporate needs, being characterized as a fertile field for research in the area of Information Science, the from the characteristic interdisciplinarity, favoring the standardization of definitions and the development of representation instruments based on the precept of innovation and support for decision making. Grafos de Conhecimento têm ganhado um crescente destaque na área acadêmica e corporativa, geralmente em estreita associação com tecnologias da Web, dados vinculados, big data e computação em nuvem. A presente pesquisa é de natureza qualitativa, tem caráter descritivo, e tem por objetivo realizar um estudo teórico sobre a utilização de Grafos de Conhecimento em ambientes organizacionais, identificando os principais desafios contemporâneos para a representação do conhecimento, e possibilidades de contribuição da área de Ciência da Informação na concepção e utilização deste instrumento. Como resultado foi identificado que os Grafos de Conhecimento são constituídos a partir de uma combinação de estruturas de representação de conhecimento, processos de gerenciamento de informação e algoritimos de busca, proporcionando uma visão didática decorrente da combinação de dados vinculados, processos de negócios eficientes e criativos, determinando uma arquitetura de soluções otimizada. Neste sentido, destaca-se a relevância da pesquisa considerando a pluralidade de definições do conceito de Grafo de Conhecimento e seu valor enquanto ferramenta, em função das necessidades corporativas, caracterizando-se como uma campo fértil para pesquisas na área de Ciência da Informação, a partir da interdisciplinaridade característica, favorecendo a padronização de definições e o desenvolvimento de instrumentos de representação fundamentadas no preceito de inovação e apoio para tomadas de decisão.

Tese de mestrado em Bioinformática e Biologia Computacional, Universidade de Lisboa, Faculdade de Ciências, 2020 Submitted by Cristina Manessiez (camanessiez@fc.ul.pt) on 2020-12-11T19:03:34Z No. of bitstreams: 1 ulfc125970_tm_Carlota_Cardoso.pdf: 1790725 bytes, checksum: d89a7468ffc6a4b575b70f99a0d947eb (MD5) Made available in DSpace on 2020-12-11T19:03:47Z (GMT). No. of bitstreams: 1 ulfc125970_tm_Carlota_Cardoso.pdf: 1790725 bytes, checksum: d89a7468ffc6a4b575b70f99a0d947eb (MD5) Previous issue date: 2020