A framework for predicting drug sensitivity and synergy in cancer cells using deep learning

Abstract

Cancro é um termo aplicado a um conjunto diverso de doenças, sendo caracterizado pela proliferação anormal de células e sua potencial disseminação. Devido à heterogeneidade inter- e intratumoral, a descoberta de tratamentos eficazes para todos os tipos de cancro é uma tarefa complexa. A medicina de precisão é uma abordagem inovadora na área da saúde que consiste em estratificar doentes com base nas suas características genómicas e fenotípicas. Ao caracterizar extensivamente os tumores ao nível molecular utilizando tecnologias ómicas, torna-se possível desenvolver tratamentos direcionados a subtipos moleculares específicos de cancro. Os algoritmos e as ferramentas de inteligência artificial poderão auxiliar na identificação dos fármacos mais promissores ao prever a sensibilidade das células cancerígenas a fármacos individuais ou a combinações de compostos, reduzindo assim o esforço experimental necessário. Neste trabalho, métodos de aprendizagem profunda foram desenvolvidos para prever a resposta de células tumorais a compostos químicos com base em dados ómicos e propriedades químicas dos compostos. Foram criados diversos modelos para vários problemas de previsão da resposta a medicamentos, incluindo a previsão da sensibilidade de linhas celulares de cancro e de amostras tumorais derivadas de pacientes e a previsão dos efeitos de combinações de medicamentos em linhas celulares tumorais. O impacto de diferentes escolhas metodológicas na capacidade preditiva dos modelos foi avaliado sistematicamente. Testaram-se diferentes estratégias de pré-processamento, métodos de representação dos dados, técnicas de seleção de atributos e de redução de dimensionalidade, e diversas arquiteturas de redes neuronais. Com base nestas análises, foi possível identificar as estratégias que produzem modelos com melhor desempenho preditivo. Demonstrou-se que os algoritmos de aprendizagem profunda são adequados a este tipo de problema, tendo superado o desempenho de outros algoritmos de aprendizagem máquina. Além disso, utilizando um método de interpretabilidade post hoc, demonstrou-se que os modelos de aprendizagem profunda têm a capacidade de associar corretamente a resposta celular a características biológicas e químicas importantes. Apesar da existência de limitações na abordagem descrita nesta tese, os resultados conseguidos serão úteis para guiar o desenvolvimento de novos métodos de aprendizagem profunda para a previsão da resposta de células tumorais a compostos químicos.

Cancer is a label applied to a diverse group of diseases, marked by abnormal cell proliferation and the potential for metastasis. Due to intertumoral and intratumoral heterogeneity, finding successful treatments for all types of cancers is a difficult endeavor. Precision medicine is an innovative approach to healthcare focused on stratifying patients for treatment based on their genomic and phenotypic characteristics. By extensively characterizing tumors at the molecular level using high-throughput omics technologies, it is possible to design targeted treatments aimed at specific molecular subtypes of cancer. Artificial intelligence algorithms and tools can help identify the most promising drug candidates by predicting the sensitivity of cancer cells to specific drugs or their combinations, reducing the experimental effort required. In this work, deep learning (DL) methods were developed to predict drug response based on omics data characterizing tumoral cells and chemical features of anti-cancer drug candidates. Models were built for several drug response prediction problems, including the prediction of drug sensitivity for cancer cell lines and patient-derived samples, and estimating the effects of drug combinations in cancer cell lines. The impact of different methodological choices on the performance of these models was systematically evaluated. Different preprocessing strategies, feature representation methods, feature selection and dimensionality reduction techniques, and neural network architectures were tested. Based on these analyses, we were able to identify the strategies that generally lead to models with better predictive performance. We also show that DL is a suitable choice for this type of problem, as the performance of the DL models developed in this work surpasses that of other machine learning (ML) algorithms. In addition, using a post hoc interpretability method, we also demonstrate that DL is able to correctly associate important biological and chemical features with drug response. Despite some limitations of the proposed approach, our findings will be useful to guide the development of new DL-based drug response prediction methods.