Quantitative analysis of nuclei relations by applying multiresolution representations and graph models : use cases in breast cancer and gastric premalignant lesions

Abstract

El diagnóstico y la gradación del cáncer continúan dependiendo en gran medida de la interpretación subjetiva de imágenes histopatológicas, especialmente al evaluar el pleomorfismo nuclear (del griego antiguo πλ´ϵω- (plé¯o, ‘‘más’’) y −μρϕ´η (morph, ‘‘forma’’)), un criterio morfológico utilizado rutinariamente para estimar la agresividad tumoral mediante. A pesar de su importancia clínica, el pleomorfismo sigue estando pobremente definido, con bajo acuerdo interobservador y difícil de cuantificar objetivamente. Los sistemas de gradación convencionales reducen la complejidad morfológica a un conjunto limitado de puntuaciones categóricas, una simplificación que a menudo no refleja la heterogeneidad biológica presente en los tejidos. Esta tesis propone un marco computacional orientado a caracterizar el pleomorfismo como un fenómeno continuo y estructurado espacialmente, abordando limitaciones clave de los sistemas categóricos actuales. Como primera contribución, se desarrolló una técnica de preprocesamiento basada en transformadas noiselet multiresolución, diseñada para eliminar señales no nucleares que afectan la precisión de las etapas posteriores de análisis computacional. A diferencia de los esquemas de segmentación tradicionales, este enfoque reduce explícitamente la complejidad del fondo y el ruido estructural, especialmente en tejidos con alta variabilidad arquitectónica, mejorando así la consistencia en la segmentación de núcleos en conjuntos de datos heterogéneos. El marco de este trabajo es un descriptor multiescala que modela la variación nuclear a nivel individual, capturando la morfología en relación con su contexto espacial local y contextual. Este descriptor se aplicó a conjuntos de datos anotados de cáncer de mama y lesiones gástricas premalignas, permitiendo cuantificar cambios morfológicos que suelen no ser evaluadas por los sistemas de gradación. Se realizaron experimentos comparativos para evaluar el rendimiento del método propuesto en términos de separabilidad y estabilidad de clases, en comparación con enfoques categóricos tradicionales. En lugar de basarse en esquemas de clasificación estáticos, el marco genera una representación estructurada y continua del pleomorfismo, diseñada para respaldar tanto el análisis morfológico exploratorio como futuras aplicaciones de modelado. Este trabajo aporta una metodología modular e interpretable para el análisis de la morfología nuclear, proponiendo una perspectiva que valora la descripción morfológica detallada frente a la categorización rígida, el contexto relacional frente a las etiquetas aisladas, y la estructura interpretable frente a los sistemas de gradación convencionales. Al integrar la extracción multiescala de características y el modelado espacial, se introduce una nueva perspectiva para la caracterización computacional del pleomorfismo nuclear. Este enfoque contribuye a los esfuerzos actuales en patología computacional al ofrecer una representación estructurada y reproducible de la morfología nuclear, y proporciona una base sólida para futuras extensiones orientadas a la integración clínica (Texto tomado de la fuente).

The diagnosis and grading of cancer continue to rely heavily on subjective interpretation of histopathological images, particularly when evaluating nuclear pleomorphism (from Ancient Greek πλϵ́ω- (pléō, ‘‘more’’) and −µρϕή (morph, ‘‘form’’)), one morphological criterion routinely used to estimate tumor aggressiveness. Despite its clinical importance, pleomorphism remains poorly defined, with low interobserver agreement, and difficult to quantify objectively. Conventional grading systems reduce complex morphological variation to a handful of categorical scores, a simplification that often fails to reflect the biological heterogeneity present across tissue regions. This thesis proposes a computational framework aimed at characterizing pleomorphism as a continuous and spatially structured phenomenon, addressing key limitations of current categorical grading systems. As an initial contribution, a preprocessing technique based on multiresolution noiselet transforms was developed to remove non-nuclear signals that impact the accuracy of subsequent computational analysis stages. Unlike traditional segmentation pipelines, this approach explicitly reduces background complexity and structural noise, particularly in tissues with high architectural variability, resulting in improved nuclei segmentation consistency across heterogeneous datasets. At the core of the framework is a multiscale descriptor that models nuclear variation at the individual level, capturing morphology in relation to local spatial context. This descriptor was applied to annotated datasets of breast cancer and gastric premalignant lesions, enabling the quantification of morphologic transitions that are typically flattened by global grading systems. Comparative experiments were conducted to evaluate the performance of the proposed method in terms of class separability and stability when compared to baseline categorical approaches. Instead of relying on a static classification scheme, the framework generates a continuous, structured feature representation of pleomorphism, designed to support both exploratory morphological analysis and future modeling applications. This work contributes a modular and interpretable methodology for nuclear morphology analysis, offering a perspective that values detailed morphological description over rigid categorization, relational context over isolated labels, and interpretable structure over conventional grading systems. By integrating multiscale feature extraction and spatial modeling, the framework introduces a novel perspective to the computational characterization of nuclear pleomorphism. It supports ongoing efforts in computational pathology by providing a structured and reproducible representation of nuclear morphology, and offers a principled foundation for future extensions aimed at clinical integration.