Δυναμική μνήμη για την ανακούφιση της καταστροφικής λήθης στη συνεχή μάθηση με ιατρική απεικόνιση

Επικοινωνία: Audrey Hu Whatsapp/hp: 0086 13880143964 Email:audrey.hu@wecistanche.com

Matthias Perkonigg1, Johannes Hofmanninger1, Christian J. Herold1, James A. Brink2, Oleg Pianykh2, Helmut Prosch1 & Georg Langs1✉

Η ιατρική απεικόνιση αποτελεί κεντρικό μέρος της κλινικής διάγνωσης και καθοδήγησης θεραπείας. Η μηχανική μάθηση αποκτά ολοένα και μεγαλύτερη συνάφεια επειδή καταγράφει χαρακτηριστικά των ανταποκρίσεων της νόσου και της θεραπείας που σχετίζονται με τη λήψη θεραπευτικών αποφάσεων. Στην κλινική πράξη, η συνεχής πρόοδος της τεχνολογίας ή των διαγνωστικών διαδικασιών λήψης εικόνας, η ποικιλία των σαρωτών και τα εξελισσόμενα πρωτόκολλα απεικόνισης εμποδίζουν τη χρησιμότητα της μηχανικής μάθησης, καθώς η ακρίβεια πρόβλεψης σε νέα δεδομένα επιδεινώνεται ή τα μοντέλα γίνονται ξεπερασμένα λόγω αυτών των μετατοπίσεων τομέα . Προτείνουμε μια προσέγγιση συνεχούς μάθησης για την αντιμετώπιση τέτοιων μετατοπίσεων τομέα που συμβαίνουν σε άγνωστα χρονικά σημεία. Προσαρμόζουμε μοντέλα σε αναδυόμενες παραλλαγές σε μια συνεχή ροή δεδομένων, ενώ παράλληλα αντιμετωπίζουμε την καταστροφική λήθη. Μια δυναμικήμνήμηεπιτρέπει την πρόβα σε ένα υποσύνολο διαφορετικών δεδομένων εκπαίδευσης για τον μετριασμό της λήθης, ενώ παράλληλα επιτρέπει στα μοντέλα να επεκταθούν σε νέους τομείς. Η τεχνική ισορροπείμνήμηανιχνεύοντας ψευδοτομείς, που αντιπροσωπεύουν διαφορετικά συμπλέγματα στυλ μέσα στη ροή δεδομένων. Η αξιολόγηση δύο διαφορετικών εργασιών, της καρδιακής κατάτμησης στην απεικόνιση μαγνητικού συντονισμού και της ανίχνευσης όζων του πνεύμονα στην αξονική τομογραφία, καταδεικνύουν ένα σταθερό πλεονέκτημα της μεθόδου.

Το Cistanche μπορεί να βελτιώσει τη μνήμη

Οι αλγόριθμοι βαθιάς μάθησης (DL) αποκτούν ραγδαία σημασία στην ιατρική απεικόνιση, επιτρέποντας την υπολογιστική τμηματοποίηση1,2, την ταξινόμηση ή τον εντοπισμό3 ανατομικών δομών και ανωμαλιών4 που σχετίζονται με τη διάγνωση, την πρόβλεψη ή την πρόγνωση. Σε ορισμένες περιπτώσεις, οι δυνατότητές τους ξεπερνούν ακόμη και εκείνες των ειδικών στον άνθρωπο5,6, καθιστώντας τους ένα κεντρικό εργαλείο για την πρόοδο της χρήσης απεικονιστικών δεδομένων για διάγνωση και υποστήριξη των θεραπευτικών αποφάσεων.

Ωστόσο, η τεχνολογία κλινικής απεικόνισης, οι διαγνωστικές ροές εργασιών, ακόμη και οι απεικονιστικοί δείκτες ασθενειών δεν είναι στατικοί. Αντίθετα, υπόκεινται σε ένα συνεχώς εξελισσόμενο περιβάλλον στο οποίο οι αλγόριθμοι DL πρέπει να προσαρμοστούν για να παραμείνουν σχετικοί. Επί του παρόντος, τα μοντέλα DL εκπαιδεύονται μία φορά, αποδίδοντας εντυπωσιακή απόδοση σε εικόνες συγκρίσιμη με την προπονητική τους εμπειρία. Ωστόσο, η βιωσιμότητά τους είναι περιορισμένη, καθώς καθίστανται ξεπερασμένα ενώ η τεχνολογία προχωρά7. Αυτή η αδυναμία προσαρμογής σε νέα δεδομένα που είναι διαφορετικά από τα δεδομένα εκπαίδευσης σε ορισμένες πτυχές (μετατοπίσεις συνόλων δεδομένων) παρεμποδίζει σοβαρά τη χρησιμότητα και την υιοθέτησή τους στην κλινική πράξη.

Οι μετατοπίσεις συνόλου δεδομένων συμβαίνουν όταν η κατανομή των δεδομένων εκπαίδευσης διαφέρει από την κατανομή των δεδομένων στο συμπέρασμα μοντέλου8,9. Ένας τύπος τέτοιας μετατόπισης, μετατόπιση τομέα (ή μετατόπιση απόκτησης) μπορεί να συμβεί λόγω της τεχνικής προόδου στην τεχνολογία σαρωτή. Στην κλινική πράξη, και κατά συνέπεια, σε μελέτες που αφορούν δεδομένα ιατρικής απεικόνισης, τα δεδομένα που αποκτώνται προέρχονται συχνά από διαφορετικούς σαρωτές, γενιές σαρωτών, κατασκευαστές ή πρωτόκολλα απεικόνισης. Για την επιτυχή προσαρμογή των αναπτυγμένων μοντέλων βαθιάς μάθησης στο μεταβαλλόμενο περιβάλλον, είναι σημαντικό να αναπτυχθούν και να προωθηθούν μέθοδοι που λαμβάνουν υπόψη αυτές τις αλλαγές τομέα.

Εδώ, εστιάζουμε στον υπολογισμό των μετατοπίσεων τομέα που συμβαίνουν σε άγνωστους χρόνους σε μια συνεχή ροή δεδομένων, αντανακλώντας την κλινική πρακτική. Ένα μοντέλο DL εκπαιδεύεται σε ένα σύνολο εικόνων που λαμβάνονται από έναν μόνο σαρωτή (βασική εκπαίδευση) και στη συνέχεια ενημερώνεται συνεχώς για αλλαγές στην εμφάνιση εικόνας που συμβαίνουν σε μια ροή δεδομένων καθώς προστίθενται νέοι σαρωτές. Ταυτόχρονα, οι γνώσεις σχετικά με τους τομείς που είδαμε στο παρελθόν δεν θα πρέπει να λησμονούνται καθώς στο μοντέλο ενσωματώνονται νέες πληροφορίες τομέα. Το Σχήμα 1 απεικονίζει το γενικό πλαίσιο αυτής της εργασίας. Το μοντέλο έχει εκπαιδευτεί να συγκλίνει σε ένα βασικό εκπαιδευτικό σύνολο δεδομένων τομέα Α. Στη συνέχεια, εκτίθεται σε μια συνεχή ροή δεδομένων στην οποία, μετά από κάποιο χρονικό διάστημα, εμφανίζονται δεδομένα του τομέα B, C και D. Χωρίς ενημέρωση του μοντέλου μετά την βασική εκπαίδευση (στατική βαθιά εκμάθηση), η ακρίβεια σε μεταγενέστερους τομείς υποφέρει, καθώς εγκαταλείπουν τη διανομή των δεδομένων εκπαίδευσης. Δείτε παρακάτω για ένα παράδειγμα, όπου το βασικό μοντέλο απέτυχε να τμηματοποιήσει τις εικόνες από τους επόμενους σαρωτές. Οι μέθοδοι συνεχούς μάθησης αντισταθμίζουν αυτό το αποτέλεσμα.

Το επίκεντρο της συνεχούς μάθησης (που αναφέρεται επίσης ως δια βίου μάθηση) είναι οι τεχνικές μηχανικής μάθησης για τη συσσώρευση της ικανότητας χειρισμού νέων εργασιών (ή, στο πλαίσιο αυτής της εργασίας, νέων τομέων) σε ένα μοντέλο10,11. Ένα σημαντικό ανεπιθύμητο αποτέλεσμα που αντιμετωπίζεται με μεθόδους συνεχούς μάθησης είναι η καταστροφική λήθη, όταν η ενημέρωση ενός μοντέλου για την εκμάθηση μιας νέας εργασίας θα οδηγούσε σε επιδείνωση της απόδοσης σε προηγούμενες εργασίες12. Ιδανικά, η συνεχής μάθηση θα μπορούσε να αποφέρει βελτιώσεις στην απόδοση σε προηγούμενες εργασίες κατά την εκπαίδευση σε επόμενες εργασίες, ένα επιθυμητό αποτέλεσμα που είναι γνωστό ως θετική μεταφορά προς τα πίσω που προκύπτει από την αυξημένη ποικιλία παραδειγμάτων εκπαίδευσης στο μοντέλο13.

Προτείνουμε δυναμικήμνήμη(DM) ως μέθοδος συνεχούς μάθησης, για την αντιμετώπιση της εμφάνισης νέων πηγών δεδομένων σε άγνωστα χρονικά σημεία σε μια συνεχή ροή ιατρικών εικόνων (Εικ. 1). Το DM είναι μια μέθοδος πρόβας, η οποία διατηρεί ένα μικρό, ποικίλο υποσύνολο της ροής δεδομένωνμνήμηγια να απαλύνει την καταστροφική λήθη. Το DM διαφοροποιεί τομνήμηχρησιμοποιώντας μια μέτρηση στυλ για τη διατήρηση εικόνων με ποικίλα στυλ που παρατηρούνται στη συνεχή ροή δεδομένων. Ως προαιρετική λειτουργική μονάδα, χρησιμοποιούμε ένα μοντέλο ψευδοτομέα (PD) για να ανιχνεύσουμε συμπλέγματα παρόμοιου στυλ από τη συνεχή ροή. Αυτοί οι ψευδοτομείς μπορούν να θεωρηθούν ως πληρεξούσιοι για τους άγνωστους, πραγματικούς τομείς και χρησιμοποιούνται για την εξισορρόπηση τουμνήμηκαι προπονητική διαδικασία (DM-PD). Για να δείξουμε τη δυνατότητα γενίκευσης της μεθόδου μας, την εφαρμόζουμε σε δύο διαφορετικές εργασίες με διαφορετικές μεθόδους απεικόνισης. Πρώτον, εκτελούμε καρδιακή κατάτμηση στην απεικόνιση μαγνητικού συντονισμού (MRI) και δεύτερον, εφαρμόζουμε την προσέγγισή μας στην ανίχνευση όζων του πνεύμονα στην αξονική τομογραφία (CT). Δείχνουμε ότι και στις δύο εργασίες, η μέθοδός μας ξεπερνά τις βασικές μεθόδους συνεχούς μάθησης. Σημειώστε ότι δεν επικεντρωνόμαστε στην ανάπτυξη μιας νέας μεθόδου τελευταίας τεχνολογίας με έναν σαρωτή για καμία από τις εργασίες, αλλά μάλλον θέλουμε να δείξουμε πώς μπορεί να εφαρμοστεί μια μέθοδος συνεχούς μάθησης για την προσαρμογή ενός μοντέλου σε μια συνεχή ροή δεδομένων απεικόνισης, συμπεριλαμβανομένων των μετατοπίσεων τομέα, χωρίς ρητή γνώση του τομέα.

συμπλήρωμα cistanche: βελτίωση της μνήμης

Αποτελέσματα

Σύνολα δεδομένων

Καρδιακή κατάτμηση. Πραγματοποιήθηκαν πειράματα σε δεδομένα από πολυκεντρικό σύνολο δεδομένων πρόκλησης πολλών προμηθευτών14. Το σύνολο δεδομένων περιελάμβανε δεδομένα από τέσσερις διαφορετικούς προμηθευτές Siemens, General Electric, Philips και Canon. Θεωρήσαμε κάθε έναν από αυτούς τους προμηθευτές ως έναν τομέα. Διαχωρίζουμε τα δεδομένα σε Βασική εκπαίδευση, Συνεχή εκπαίδευση, επικύρωση και σετ δοκιμών σε επίπεδο ασθενούς. Ο Πίνακας 1α δείχνει τον αριθμό των μεμονωμένων τμημάτων για κάθε τομέα σε αυτούς τους διαχωρισμούς συνόλων δεδομένων.

Ανίχνευση όζων πνεύμονα. Για την ανίχνευση όζων πνεύμονα χρησιμοποιήσαμε δεδομένα που εξήχθησαν από τη βάση δεδομένων LIDC15, με τους σχολιασμούς όπως παρέχονται για την πρόκληση LUNA16-16. Επιπλέον, χρησιμοποιήσαμε το σύνολο δεδομένων πρόκλησης LNDb17. Για όλους τους σχολιασμούς των οζιδίων του πνεύμονα, κατασκευάσαμε πλαίσια οριοθέτησης γύρω από την σχολιασμένη βλάβη και εξάγαμε 2D φέτες με βλάβες. Για να δείξουμε τη συνεχή μας εκμάθηση με μεταβαλλόμενους τομείς, κατασκευάσαμε ένα σύνολο δεδομένων από τους τρεις πιο συνηθισμένους τομείς, όσον αφορά τον προμηθευτή σαρωτή και τον πυρήνα ανακατασκευής, στο LIDC και ως τέταρτο τομέα, το σύνολο δεδομένων LNDb. Για το LIDC, οι πιο συχνά χρησιμοποιούμενες ρυθμίσεις συμπεριλαμβανομένων των βλαβών ήταν τα GE Medical Systems με αλγόριθμο ανακατασκευής χαμηλής συχνότητας (GE/L, n=527), τα GE Medical Systems με αλγόριθμο ανακατασκευής υψηλής συχνότητας (GE/H, n {{ 9}}), και Siemens με πυρήνα B30f (Siemens, n=130). Το σύνολο δεδομένων IMDb χρησιμοποιούσε πολλούς σαρωτές Siemens. Για να ταιριάξουμε με τον ορισμό του οζιδίου στη βάση δεδομένων LIDC, εξαιρέσαμε τα οζίδια με διάμετρο < 3="" mm,="" με="" αποτέλεσμα="" συνολικά="" 625="" εικόνες.="" αυτές="" οι="" εικόνες="" χωρίστηκαν="" σε="" βασική="" εκπαίδευση,="" συνεχή="" εκπαίδευση,="" επικύρωση="" και="" σύνολο="" δεδομένων="" δοκιμής="" σύμφωνα="" με="" τον="" πίνακα="" 1β="" ανάλογο="" με="" το="" πείραμα="" καρδιακής="">

Δυναμικόςμνήμηανακουφίζει την καταστροφική λήθη της καρδιακής κατάτμησης. Να αξιολογήσει την ικανότητα της δυναμικήςμνήμηΓια να επιτύχουμε καλή απόδοση ενώ εξουδετερώνουμε την καταστροφική λήθη, πραγματοποιήσαμε καρδιακή κατάτμηση σε τομές μαγνητικής τομογραφίας 2D ως τμηματοποίηση πολλαπλών ετικετών με τρεις ετικέτες: Αριστερή κοιλία (LV), δεξιά κοιλία (RV) και αριστερή κοιλία μυοκάρδιο (MYO). Οι εικόνες αποκτήθηκαν με σαρωτές τεσσάρων διαφορετικών προμηθευτών, με σειρά εμφάνισης στη ροή δεδομένων: Siemens (A), GE (B), Philips (C) και Canon (D). Τους αναφερόμαστε ως Scanner A–D για να διευκολύνουμε την κατανόηση της παραγγελίας. Η βασική εκπαίδευση πραγματοποιήθηκε μόνο σε δεδομένα του σαρωτή Α. Στη συνέχεια, το μοντέλο εκπαιδεύτηκε σε μια συνεχή ροή δεδομένων στην οποία οι τομείς της εικόνας άλλαξαν σταδιακά από το Scanner A σε D (Εικ. 1). Συγκρίναμε διαφορετικές στρατηγικές συνεχούς μάθησης: (1) τη μέθοδο DM, (2) τη μέθοδο DM με ανίχνευση ψευδοτομέων (DM-PD), (3) μια τυχαίαμνήμηστρατηγική αντικατάστασης, στην οποία κάθε νέο δείγμα αντικατέστησε ένα τυχαία επιλεγμένο δείγμα που βρίσκεται αυτή τη στιγμήμνήμη(Τυχαία) και (4) μια αφελής προσέγγιση μάθησης σε μια ροή δεδομένων χωρίς να εξουδετερώνει την καταστροφική λήθη (Αφελής). Επιπλέον, συγκρίναμε τα αποτελέσματα με τις πιο σύγχρονες μεθόδους συνεχούς μάθησης: (5) Elastic Weight Consolidation (EWC)18, και δύο μεθόδους που απαιτούν γνώση του τομέα (6) Gradient EpisodicΜνήμη(GEM)19 και (7) εμπειρία επανάληψης με Maximally Inferred Retrieval (ER-MIR)20. Σημειώστε ότι το DM και το DM-PD λειτουργούν χωρίς γνώση του τομέα, αντιπροσωπεύοντας μια πιο ρεαλιστική υπόθεση στην κλινική πράξη. Για σύγκριση, εκπαιδεύσαμε επίσης δύο βασικά μοντέλα: Πρώτον, ένα κοινό μοντέλο (JModel) με όλα τα δεδομένα εκπαίδευσης που αντιμετώπιζε ολόκληρο το σύνολο δεδομένων ως ένα ενιαίο υποθετικό στατικό σύνολο δεδομένων. και δεύτερον, μοντέλα ειδικών περιοχών (DSM) που εκπαιδεύονται σε ένα στατικό σχήμα εκπαίδευσης σε καθέναν από τους τομείς, χωριστά. Τέλος, αναφέρουμε αποτελέσματα για ένα στατικό μοντέλο βάσης (Βάση) που εκπαιδεύτηκε στον σαρωτή Α και εφαρμόστηκε σε σαρωτές Α έως Δ. Όλες οι μέθοδοι χρησιμοποιούσαν το ίδιο συνελικτικό νευρωνικό δίκτυο κορμού (CNN) για τμηματοποίηση, ένα FC-ResNet5021.

Εικ. 1 Διαφορετικές στρατηγικές εκπαίδευσης και προσαρμογής μοντέλων. 1 Το Continual DL για ανάλυση εικόνας προσαρμόζεται στις νέες ιδιότητες δεδομένων και, ταυτόχρονα, διατηρεί τη δυνατότητα εργασίας με παλαιότερα δεδομένα. a Static DL: μετά την εκπαίδευση και την ανάπτυξη ενός μοντέλου DL, η τεχνολογία αλλάζει και η ακρίβεια του μοντέλου μειώνεται. β Μια αφελής προσέγγιση συνεχούς μάθησης για την επίλυση αυτού του περιορισμού είναι η συνέχιση της εκπαίδευσης ενός μοντέλου σε μια ροή δεδομένων. Ωστόσο, αυτό οδηγεί στη λήθη των παλαιών ιδιοτήτων δεδομένων και στην αντίστοιχη μείωση της απόδοσης σε αυτά τα δεδομένα. γ Ως προσέγγιση συνεχούς μάθησης, δυναμικήμνήμηαναγνωρίζει νέους αναδυόμενους τομείς και δειγματοληπτικά δεδομένα σε συνεχή ροή ανάλογα. Το μοντέλο ML προσαρμόζεται στη νέα τεχνολογία, αλλά παραμένει ακριβές στο ποικίλο σύνολο σαρωτών που είδαμε προηγουμένως. Αυτό είναι σημαντικό για τη διασφάλιση της συμβατότητας του μοντέλου προς τα πίσω και για τη δημιουργία ενός πιο σταθερού μοντέλου που προσαρμόζεται ταχύτερα σε νέους σαρωτές. 2 Η επικύρωση σε ένα ξεχωριστό σύνολο δοκιμών αξιολογεί την απόδοση του μοντέλου DL στο τέλος της περιόδου.

Συγκρίναμε την ακρίβεια τμηματοποίησης όλων των προσεγγίσεων σε ένα ξεχωριστό σύνολο δοκιμών που περιείχε δεδομένα και από τους τέσσερις σαρωτές μετά την ολοκλήρωση της εκπαίδευσης. Επιπλέον, αξιολογήσαμε συγκεκριμένα εάν η ακρίβεια του μοντέλου σε έναν σαρωτή επωφελείται από την εκπαίδευση μοντέλων σε άλλους σαρωτές αξιολογώντας τη μεταφορά προς τα πίσω (BWT) και τη μεταφορά προς τα εμπρός (FWT)19.

Στον Πίνακα 2, οι προσεγγίσεις συγκρίνονται ως προς τη μέση βαθμολογία Dice σε LV, RV και MYO γιαμνήμημέγεθος M {{0}}. Μια αξιολόγηση της τμηματοποίησης LV, RV και MYO έδειξε ξεχωριστά παρόμοιες τάσεις (βλ. συμπληρωματικούς πίνακες 1-3). Οι DM και DM-PD είχαν παρόμοια απόδοση και ξεπέρασαν όλες τις άλλες στρατηγικές συνεχούς μάθησης για τις οποίες δεν απαιτούνται πληροφορίες σχετικά με τη συμμετοχή στον τομέα (Αφελής, Τυχαία και EWC). Για τις εικόνες του τελευταίου τομέα (Σαρωτής D), το EWC είχε την υψηλότερη μέση βαθμολογία Dice (0.850 ± {{10}}.003) αλλά με το κόστος μιας υψηλής αρνητικής τιμής BWT (− 0,014 ± 0,007), που δείχνει ότι συνέβη καταστροφική λήθη. Το DM και το DM-PD δεν παρουσίασαν λήθη, όπως υποδεικνύεται από τα ουδέτερα BWT 0.{15}} και 0,003, αντίστοιχα. Το GEM και το ER-MIR έδειξαν παρόμοια απόδοση με το DM-PD, αλλά χρειάζονταν πληροφορίες σχετικά με τη συμμετοχή στον τομέα των μεμονωμένων δειγμάτων, κάτι που δεν είναι εφικτό στην κλινική πράξη. Η σύγκριση μιας μνήμης με μια στρατηγική τυχαίας αντικατάστασης με DM και DM-PD έδειξε ότι η μέτρηση στυλ που χρησιμοποιήθηκε για το DM ήταν αποτελεσματική για την επιλογή δειγμάτων για τη διαμόρφωση μιας ποικιλίαςμνήμη. Η τυχαία αντικατάσταση είχε ως αποτέλεσμα να λησμονηθούν οι προηγούμενοι τομείς κατά τη διάρκεια τουκύκλος συνεχούς εκπαίδευσης (BWT −0.011), ενώ το DM και το DM-PD διατήρησαν καλή απόδοση σε όλους τους σαρωτές.

Σε δεδομένα από το Scanner B, για τον οποίο χρησιμοποιήθηκε ένα σχετικά μικρό μέγεθος δείγματος 720 εικόνων για εκπαίδευση, το DM και το DM-PD μπόρεσαν να επιτύχουν καλή απόδοση χωρίς πληροφορίες μέλους τομέα. Η εκμάθηση με τυχαία αντικατάσταση, EWC και αφελής εκπαίδευση οδήγησε σε σημαντική πτώση της απόδοσης για το Scanner B. Αυτό έδειξε ότι χρησιμοποιώντας μια μέτρηση στυλ βασισμένη σε μήτρα Gram, ο DM ήταν λιγότερο ευαίσθητος στον αριθμό των δειγμάτων ανά προμηθευτή σαρωτή από άλλες στρατηγικές συνεχούς μάθησης .

Το J Model ήταν το ανώτερο όριο του τι μπορεί να επιτύχει η εκπαίδευση, ειδικά για τομείς με λίγα δείγματα, π.χ., για το Scanner B, το χάσμα απόδοσης μεταξύ της συνεχούς μάθησης και της υποθετικής στατικής ομαδικής εκπαίδευσης με πρόσβαση σε όλα τα δεδομένα ήταν υψηλό ({{0 }}.763 ± 0.004 έναντι 0,798 ± 0,016). Αυτό οφειλόταν στο γεγονός ότι στη συνεχή μάθηση, τα υποεκπροσωπούμενα δείγματα παρατηρήθηκαν λιγότερο συχνά από ό,τι στη στατική εκπαίδευση. Στον Συμπληρωματικό Πίνακα 4, διαφορετικάμνήμησυγκρίθηκαν μεγέθη M=〈64, 128, 256, 512, 1024〉 για DM και DM-PD. Προσθήκη περισσότερωνμνήμηοδήγησε σε καλύτερη απόδοση, αλλά λόγω των διαφορών στη δυναμική της εκπαίδευσης (το JModel εκπαιδεύεται κατά παρτίδες και έτσι μπορεί να δει περισσότερες παρτίδες από ό,τι σε ρυθμίσεις συνεχούς μάθησης), η απόδοση του JModel δεν ήταν εφικτή. DM με μικρότερομνήμηΤο ofM {{0}} δεν μπόρεσε να αποτυπώσει με ακρίβεια την ποικιλομορφία της κατανομής των δεδομένων εκπαίδευσης και έτσι οδήγησε στη λήθη (BWT=− 0,005).

τι χρησιμοποιείται το cistanche: βελτίωση της μνήμης

Το Σχήμα 2 δείχνει πώς άλλαξε ο μέσος όρος DSC κατά τη διάρκεια της συνεχούς εκπαίδευσης. Για το EWC και την αφελή συνεχή μάθηση, παρατηρήθηκε καταστροφική λήθη και η ακρίβεια σε προηγούμενους τομείς μειώθηκε καθώς νέοι τομείς εισήχθησαν στην εκπαίδευση μοντέλου. Για το DM και το DM-PD, η ακρίβεια ήταν πιο σταθερή σε όλους τους τομείς καθώς προχωρούσε η συνεχής εκπαίδευση.

Η ποιοτική αξιολόγηση της σημασιολογικής τμηματοποίησης στο Σχ. 3 έδειξε συγκρίσιμα αποτελέσματα απόδοσης για τις διαφορετικές προσεγγίσεις συνεχούς μάθησης. Ωστόσο, ενώ η αφελής συνεχής εκμάθηση έδειξε καλύτερα αποτελέσματα για τον σαρωτή D, τα DM και DM-PD είχαν καλή απόδοση σε όλους τους σαρωτές, συμπεριλαμβανομένων των τομέων που είχαν προηγουμένως δει. Η σύγκριση με το βασικό μοντέλο (εκπαιδευμένο μόνο σε δεδομένα του σαρωτή Α) έδειξε ότι χρειαζόμαστε μια μέθοδο συνεχούς μάθησης για να προσαρμόσουμε το μοντέλο στην μεταβαλλόμενη οπτική εμφάνιση. Το βασικό μοντέλο απέτυχε να εκτελέσει ακριβή τμηματοποίηση για τους σαρωτές B–D, με αποτέλεσμα μεγάλο αριθμό ψευδώς αρνητικών.

Δυναμικόςμνήμηανακουφίζει την καταστροφική λήθη για την ανίχνευση όζων του πνεύμονα. Η ανίχνευση όζων πνεύμονα πραγματοποιήθηκε ως ανίχνευση οριοθέτησης σε τομές CT 2D και μετρήθηκε με μέση ακρίβεια (AP), όπως ορίζεται στην ενότητα αξιολόγησης. Τέσσερις τομείς εικόνων συμπεριλήφθηκαν στη ροή δεδομένων: GE με αλγόριθμο ανακατασκευής χαμηλής συχνότητας (GE/L). GE με αλγόριθμο ανακατασκευής υψηλής συχνότητας (GE/H). Siemens; και LNDb (δείτε την ενότητα «Σύνολα δεδομένων» για λεπτομέρειες), στους ακόλουθους σαρωτές E–H. Η βασική εκπαίδευση πραγματοποιήθηκε σε δεδομένα από το Scanner E. Λόγω του ορισμού του EWC, δεν ήταν δυνατή η άμεση σύγκριση για εργασίες ανίχνευσης. Το DM και το DM-PD συγκρίθηκαν με μια μνήμη τυχαίας αντικατάστασης και μια αφελή προσέγγιση συνεχούς μάθησης.

Ανάλογα με την τμηματοποίηση, δύο μέθοδοι αιχμής που απαιτούν ετικέτες τομέα (που δεν απαιτείται από τα DM και DM- PD), GEM19 και ER-MIR20 αξιολογήθηκαν ως αναφορά. Ως βασικά μοντέλα, συγκρίθηκαν ένα κοινό μοντέλο (JModel) και συγκεκριμένα μοντέλα τομέα (DSM) και τα αποτελέσματα για το στατικό μοντέλο βάσης (Βάση) αξιολογήθηκαν ανάλογα με το πείραμα τμηματοποίησης. Ως δίκτυο εργασιών, χρησιμοποιήθηκε ταχύτερο R-CNN με κορμό ResNet-5022.

Συνολικά, το DM-PD και το DM είχαν καλύτερες επιδόσεις όσον αφορά το AP από την αφελή προσέγγιση, όπως φαίνεται στον Πίνακα 3. Και τα δύο ξεπέρασαν την αφελή μέθοδο και αντιμετώπισαν αποτελεσματικά την καταστροφική λήθη. Για όλους τους τομείς που εξήχθησαν από το LIDC (σαρωτές E, F και G), το DM είχε καλή απόδοση. Ωστόσο, παρατηρήσαμε πτώση στην απόδοση για το Scanner H για όλες τις μεθόδους. Αυτή η πτώση προκλήθηκε από μια μετατόπιση πληθυσμού πέρα ​​από τη μεγάλη μετατόπιση τομέα. Στα δεδομένα LIDC, τα οζίδια του πνεύμονα είχαν μέση διάμετρο 8,29 mm, ενώ τα δεδομένα του σαρωτή H (εξαγόμενα από το LNDb) περιλάμβαναν μικρότερες βλάβες με μέση διάμετρο 5,99 mm. Με το σχεδιασμό, το DM δεν ανιχνεύει μετατοπίσεις πληθυσμού (δηλαδή, την αλλαγή των χαρακτηριστικών της βλάβης σε αντίθεση με τα χαρακτηριστικά απεικόνισης) και επομένως, δεν μπορούσε να προσαρμοστεί γρήγορα στα δεδομένα του σαρωτή H. Η στρατηγική τυχαίας αντικατάστασης δυσκολεύτηκε με τομείς μάθησης που υπήρχαν λιγότερο συχνά στην εκπαίδευση (Scanner F και G), καθώς αντικαταστάθηκαν με την πάροδο του χρόνου από δεδομένα του Scanner H, με αποτέλεσμα να ξεχαστούν αυτοί οι σαρωτές. Αυτό το αποτέλεσμα ήταν λιγότερο σοβαρό για τα δεδομένα του σαρωτή Ε, καθώς η βασική εκπαίδευση πραγματοποιήθηκε σε δεδομένα αυτού του σαρωτή. Το DM και το DM-PD αντιμετώπισαν αυτή τη λήθη χρησιμοποιώντας μια μέτρηση βασισμένη σε στυλ για να διαφοροποιήσουν τομνήμηκαι έτσι κράτησε δείγματα όλων των σαρωτώνμνήμη. Το DM-PD απέδωσε καλύτερα από το DM χωρίς ανίχνευση ψευδοτομέων, αποδεικνύοντας ότι η εξισορρόπηση της εκπαιδευτικής διαδικασίας ήταν ένα σημαντικό βήμα για τη συνεχή μέθοδο εκμάθησής μας. Το DM-PD έδειξε την καλύτερη απόδοση όσον αφορά το AP και ξεπέρασε την αφελή προσέγγιση κατά περίπου 0.05 AP για τους σαρωτές E, F και G. Επιπλέον, η καλύτερη δυνατότητα μεταφοράς προς τα πίσω και προς τα εμπρός παρατηρήθηκε για το DM-PD/128 . Έτσι, ήταν το προτιμότερο μοντέλο για την ανίχνευση όζων πνεύμονα.

Εικ. 2 Τμηματοποίηση καρδιακής μαγνητικής τομογραφίας. Βαθμολογία ζαριών (DSC) στο σύνολο επικύρωσης κατά τη διάρκεια της προπόνησης για M=128 για DM και DM-PD, σε σύγκριση με την τυχαία αντικατάσταση και την αφελή συνεχή μάθηση. Η γραμμή χρόνου στο κάτω μέρος αντιπροσωπεύει μια συνεχή ροή δεδομένων και την αλλαγή των τομέων στη ροή. Μια πτώση DSC για τον σαρωτή Α μπορεί να παρατηρηθεί όταν ο σαρωτής Β εμφανίζεται στη ροή, ο DM και ο DM-PD μπόρεσαν να ανακτήσουν από αυτήν την πτώση χρησιμοποιώντας τομνήμη; b όλες οι μέθοδοι είναι σταθερές κατά τη διάρκεια της εκπαίδευσης με το Scanner C και c μόλις εισρεύσουν τα δεδομένα του Scanner D, βλέπουμε μια γρήγορη αύξηση του DSC για τα δείγματα επικύρωσης του Scanner D. Η αφελής και η τυχαία αντικατάσταση χάνουν ορισμένους πόντους DSC κατά τη διάρκεια αυτής της περιόδου, ενώ το DM παραμένει σταθερό. Αυτή η σημαντική και ταχεία αλλαγή δείχνει ότι ο σαρωτής D είναι διαφορετικός σε σύγκριση με τους άλλους και όχι τόσο στενά συνδεδεμένος όσο ο σαρωτής B και C.

Ο συμπληρωματικός Πίνακας 5 δείχνει τα αποτελέσματα της σύγκρισης διαφορετικώνμνήμημεγέθη M=〈64, 128, 256, 512, 883〉 (το 883 αντιστοιχεί στην αποθήκευση όλων των δειγμάτων της συνεχούς ροής στη μνήμη). Για το DM, ένα μεγαλύτερο μέγεθος μνήμης ήταν ωφέλιμο σε σύγκριση με το μικρότερο μέγεθος μνήμης. Για το DM-PD, τα αποτελέσματα έδειξαν ότι όσο μικρότερο είναιμνήμη(M=64 και M=128) τόσο μεγαλύτερο κέρδος απόδοσης επιτεύχθηκε με την ανίχνευση ψευδοτομέα (PD) σε σύγκριση με το απλό DM. Για μεγαλύτερα μεγέθη μνήμης, το όφελος των PD εξαφανίστηκε. Λόγω διαφορών στην ακολουθία προπόνησης, η απόδοση DM με M=883 ήταν διαφορετική από αυτή του JModel. Ενώ το DM/883 είχε καλύτερες επιδόσεις στον σαρωτή E και στο F, το JModel έδειξε υψηλότερες τιμές AP για το Scanner G και H.

Στο Σχ. 4, η αλλαγή στην απόδοση επικύρωσης κατά τη διάρκεια της προπόνησης απεικονίζεται για DM και DM-PD με M=128 σε σύγκριση με την τυχαία αντικατάστασημνήμηκαι αφελής συνεχής μάθηση. Ενώ η τυχαία αντικατάσταση και η αφελής στρατηγική έδειξαν λήθη, ειδικά για το Scanner G, το DM και το DM-PD διατήρησαν την απόδοση σε υψηλά επίπεδα χωρίς καταστροφική λήθη.

Για να αναλυθεί λεπτομερώς η απόδοση του ΣΔ στην ανίχνευση όζων του πνεύμονα, οι καμπύλες ανάκλησης ακριβείας για ΣΔ και DM-PD με Μ=128 συγκρίθηκαν με την απλή συνεχή μάθηση και ένα βασικό μοντέλο που εκπαιδεύτηκε σε δεδομένα από τον πρώτο σαρωτή Ε μόνο ( Εικ. 5α). Το βασικό μοντέλο είχε χειρότερη απόδοση από τις προσεγγίσεις συνεχούς μάθησης για όλους τους τομείς, ακόμη και σε δεδομένα δοκιμής από τον τομέα στον οποίο εκπαιδεύτηκε το μοντέλο. Αυτό έδειξε ότι η γνώση από τους επόμενους σαρωτές μπορεί να βελτιώσει την απόδοση του τελικού μοντέλου στο Scanner E. Όπως ήταν αναμενόμενο, η απόδοση του βασικού μοντέλου επιδεινώθηκε για τους επόμενους σαρωτές. Οι καμπύλες ανάκλησης ακριβείας της αφελούς προσέγγισης συνεχούς μάθησης έδειξαν βελτίωση σε σχέση με το βασικό μοντέλο. Σε σύγκριση με το DM και το DM-PD, παρουσίασε χειρότερη απόδοση για τους σαρωτές E–G και ελαφρώς καλύτερη απόδοση για τον σαρωτή H. Αυτό δείχνει πόσο η αφελής συνεχής μάθηση μπορούσε να προσαρμοστεί σε νέους σαρωτές αλλά —σε αντίθεση με το DM και DM-PD— υπέφερε από ξεχνώντας, κατά την ενημέρωση του μοντέλου στα δεδομένα H του σαρωτή.

Στο Σχ. 5β παρουσιάζονται ανιχνεύσεις πλαισίου οριοθέτησης και για τους τέσσερις τομείς. Συνολικά, υψηλότερος αριθμός ψευδώς θετικών εμφανίστηκε για την αφελή προσέγγιση σε σύγκριση με τη ΣΔ και τη ΣΔ-ΠΔ. Δεδομένου του γεγονότος ότι πραγματοποιήσαμε ανίχνευση μόνο σε 2D φέτες, το DM και το DM-PD έδειξαν καλή συνολική απόδοση. Για την ανίχνευση όζων πνεύμονα, δείξαμε ένα σαφές όφελος χρησιμοποιώντας την πρόβα με τη μέθοδο DM μας σε ρυθμίσεις συνεχούς μάθησης με άγνωστες μετατοπίσεις τομέα.

Η ανίχνευση ψευδο-τομέα διατηρεί μια πιο ισορροπημένημνήμη.

Για την ανίχνευση όζων πνεύμονα, αναλύσαμε τις διαφορές μεταξύ της προπόνησης DM με την ενότητα ψευδοτομέα έναντι της εκπαίδευσης χωρίς την ενότητα ψευδοτομέα για το M=128. Αρχικά, αξιολογήσαμε πώς μπήκαν τα δείγματαμνήμηστο τέλος της εκπαίδευσης κατανεμήθηκαν σε σύγκριση με ολόκληρο το εκπαιδευτικό σώμα ενσωματώνοντας τους πίνακες Gram όλων των δειγμάτων εκπαίδευσης σε έναν χώρο ενσωμάτωσης με χρήση t-κατανεμημένης στοχαστικής ενσωμάτωσης γειτόνων (TSNE)23.

Το Σχήμα 6α δείχνει μια σαφή διάκριση μεταξύ των τομέων του Scanner F, του Scanner H και των Scanners E και G. Οι σαρωτές E και G ήταν κοντά ανάλογα με το στυλ τους λόγω του παρόμοιου πυρήνα ανακατασκευής που χρησιμοποιήθηκε για αυτούς τους τομείς. Οι δείκτες στο σχήμα δείχνουν τα δείγματα μέσαμνήμηστο τέλος της συνεχούς εκπαίδευσης. Για το DM-PD, αυτά κατανεμήθηκαν πιο ισότιμα ​​σε ολόκληρο το σετ εκπαίδευσης.

Αυτή η παρατήρηση επιβεβαιώθηκε από τα δεδομένα που απεικονίζονται στο Σχ. 6γ όπου παρατηρήσαμε μια σαφή υπερ-αναπαράσταση του πρώτου τομέα (Σαρωτής Ε) των συνολικών επόμενων τομέων για εκπαίδευση μόνο με ΣΔ, σε σύγκριση με την εξισορρόπηση με ψευδοτομείς (DM-PD).

Εικ. 3 Ποιοτικά παραδείγματα για καρδιακή κατάτμηση. Αποτελέσματα για DM και DM-PD με M=128 σε σύγκριση με αφελή συνεχή μάθηση και τυχαίαμνήμηαντικατάσταση. Η λανθασμένη ετικέτα αναφέρεται σε εικονοστοιχεία που επισημάνθηκαν, αλλά η ιδιότητα μέλους της τάξης συγχέεται από το μοντέλο. Το βασικό μοντέλο εκπαιδεύτηκε σε μια στατική προσέγγιση εκπαίδευσης σε δεδομένα μόνο από τον σαρωτή Α.

Το Σχήμα 6β δείχνει μια ανάλυση του αριθμού των στοιχείων τομέα που έχουν εκχωρηθεί σε ψευδοτομείς. Για το παράδειγμα μιας μεμονωμένης εκτέλεσης εκπαίδευσης, εντοπίστηκαν πέντε ψευδοτομείς. Το PD-1 αντιπροσώπευε τον πραγματικό τομέα του σαρωτή E. Το PD-4 και το PD-5 αντιπροσώπευε δείγματα από δύο σαρωτές, F και G. Σε PD-2 και PD{{7} }, δεν παρουσιάστηκε σαφής διάκριση των τομέων. Συνολικά, παρατηρήσαμε

Εικ. 4 Ανίχνευση όζων πνεύμονα. Η μέση ακρίβεια (AP) μετρήθηκε στο σύνολο επικύρωσης κατά τη διάρκεια της εκπαίδευσης για DM και DM-PD με M=128 καθώς και μια τυχαία αντικατάστασημνήμηκαι αφελής προσέγγιση συνεχούς μάθησης. Η γραμμή χρόνου στο κάτω μέρος αντιπροσωπεύει τις αλλαγές σε τομείς στη ροή δεδομένων. Μόλις εμφανίστηκαν δεδομένα του Scanner F στη ροή, η επικύρωση που πραγματοποιήθηκε στον τομέα Scanner F (και επίσης Scanner G) αυξήθηκε για όλες τις προσεγγίσεις. β Μια σαφής πτώση στην απόδοση (AP) σημειώθηκε για την αφελή και τυχαία προσέγγιση αντικατάστασης για τον σαρωτή E, F και G, μετά από μερικά βήματα εκπαίδευσης στα δεδομένα του σαρωτή H, τα οποία σημάδεψαν την καταστροφική λήθη. Για το ΣΔ, η απόδοση αρχικά έπεσε ελαφρά, αλλά επανήλθε μετά από μερικά βήματα προπόνησης, επειδή δείγματα από τη μνήμη χρησιμοποιούνται για προπόνηση. Η απόδοση DM-PD παρέμεινε σταθερή για τους σαρωτές E, F και G. c Στο τέλος της συνεχούς εκπαίδευσης, επιτεύχθηκε καλύτερη απόδοση για τους σαρωτές E, F και G, όταν χρησιμοποιήθηκε η δυναμική μνήμη. Για το Scanner H, η απόδοση και για τις τρεις προσεγγίσεις ήταν παρόμοια. δ Η απόδοση του σαρωτή Ε ήταν σταθερή κατά τη διάρκεια ολόκληρης της διαδικασίας συνεχούς εκπαίδευσης για όλες τις προσεγγίσεις, δείχνοντας μια βασική εκπαίδευση που ήταν κορεσμένη για τον σαρωτή Ε. ότι η χρήση της μονάδας ψευδοτομέα ήταν ευεργετική για τη διατήρηση μιας ισορροπημένης μνήμης, η οποία ήταν αντιπροσωπευτική του συνόλου διανομή σετ εκπαίδευσης.

κριτικές cistanche: βελτίωση της μνήμης

Συζήτηση

Η μηχανική μάθηση επεκτείνει τη χρήση δεδομένων ιατρικής απεικόνισης για διάγνωση και πρόγνωση. Η πρόοδος στη βαθιά μάθηση επιτρέπει την υπολογιστική ανίχνευση, τμηματοποίηση και ταξινόμηση οντοτήτων που σχετίζονται με ασθένεια, ενημερώνοντας έτσι τις ατομικές αποφάσεις θεραπείας. Μετά την πρώτη επανάληψη του στατικού DL, τα μοντέλα έχουν αποδειχθεί αποτελεσματικά, η πρόκληση είναι τώρα να γίνουν βιώσιμα σε ένα περιβάλλον συνεχών προόδων στην τεχνολογία απόκτησης εικόνας, στα πρωτόκολλα ή ακόμα και στις επιλογές θεραπείας. Εδώ, δείχνουμε ότι μια προσέγγιση που διατηρεί μια ποικιλόμορφη δυναμικήμνήμηθα μπορούσε να προσαρμόσει τα μοντέλα στην μεταβαλλόμενη τεχνολογία απεικόνισης, καθώς αντιμετώπιζε τις αλλαγές τομέα. Είναι σημαντικό, ενώ το μοντέλο έμαθε από νέα δεδομένα, διατήρησε την ποικιλομορφία μιας πρόβαςμνήμη, για να παραμείνει ακριβής και αξιόπιστος σε ολόκληρο το ρεπερτόριο των πηγών απεικόνισης που είχε δει. Επιπλέον, παρατηρήσαμε ότι η γνώση του μοντέλου μεταφέρθηκε με επιτυχία στους σαρωτές. Η συμπερίληψη δεδομένων εκπαίδευσης από άλλους σαρωτές απέφερε οφέλη για την ακρίβεια του μοντέλου σε έναν μεμονωμένο σαρωτή.

Μετατοπίσεις τομέα λόγω της μεταβλητότητας του σαρωτή και των επιζήμιων επιπτώσεών τους στους αλγόριθμους μηχανικής μάθησης (ML) έχουν παρατηρηθεί σε διαφορετικούς τρόπους εικόνας, όπως η υπολογιστική τομογραφία (CT) και η μαγνητική τομογραφία (MRI). Για την αξονική τομογραφία, η επίδραση των σαρωτών και των παραμέτρων ανακατασκευής στις προβλέψεις ML καθώς και στους σχολιασμούς στον άνθρωπο, έχουν μελετηθεί για εξετάσεις αξονικής τομογραφίας θώρακα. Αποδεικνύοντας ότι η μεταβλητότητα του σαρωτή έχει αρνητική επίδραση στη ραδιοφωνική24,25 και σε άλλα χαρακτηριστικά απεικόνισης26, αυτό πρέπει να λαμβάνεται υπόψη κατά το σχεδιασμό μοντέλων ML. Στην αναφ. 27, η επίδραση της χρήσης πολλαπλών σαρωτών MRI στους αλγόριθμους ML για τη μαγνητική τομογραφία εγκεφάλου αξιολογήθηκε εμπειρικά. Για τη μείωση της επίδρασης της μεταβλητότητας του σαρωτή σε διαμήκεις, πολυσαρωτικές μελέτες MRI, έχει εφαρμοστεί η εναρμόνιση28,29. Ωστόσο, διαφορετικά από τη δουλειά μας, αυτές οι μέθοδοι υποθέτουν ότι όλα τα δεδομένα είναι διαθέσιμα ταυτόχρονα, κάτι που δεν ισχύει για ένα μοντέλο που χρησιμοποιείται στην κλινική πρακτική.

Προηγουμένως, έχουν προταθεί διάφορες μέθοδοι για την ανακούφιση της καταστροφικής λήθης10,11 σε περιβάλλοντα συνεχούς μάθησης. Αυτές οι προσεγγίσεις μπορούν να χωριστούν ευρέως σε τρεις κατηγορίες: μέθοδοι πρόβας και ψευδο-πρόβας19,30–33, προσεγγίσεις που βασίζονται σε τακτοποίηση18,34,35 και μέθοδοι απομόνωσης παραμέτρων36,37. Για λεπτομερή ανασκόπηση, βλέπε αναφ. 10,11. Η πλειονότητα αυτών των προσεγγίσεων είναι μέθοδοι μάθησης σταδιακής εργασίας. Εστιάζουν στην εκμάθηση νέων εργασιών σταδιακά χωρίς να ξεχνούν τις γνώσεις που απαιτούνται για προηγούμενες εργασίες. Πρόσφατα, έχουν προταθεί μέθοδοι που έχουν επικεντρωθεί στη λογιστική των μετατοπίσεων τομέα38–40. Η προσαρμογή τομέα (DA) είναι ένας σχετικός τομέας έρευνας που ασχολείται με τις μετατοπίσεις τομέα41–43. Η DA εστιάζει σε

Εικ. 5 Ποσοτικά και ποιοτικά αποτελέσματα για την ανίχνευση όζων πνεύμονα. Καμπύλες Ακρίβειας-ανάκλησης του μοντέλου τελικού προπονημένου, DM και DM-PD σε σύγκριση με ένα βασικό μοντέλο που έχει εκπαιδευτεί μόνο σε δεδομένα σαρωτή Ε. Οι σκιασμένες περιοχές αντιπροσωπεύουν διαστήματα εμπιστοσύνης για n=5 ανεξάρτητες διαδρομές προπόνησης. β Δείγματα ανίχνευσης όζων πνεύμονα του τελικού μοντέλου που εκπαιδεύτηκε με DM και DM-PD σε σύγκριση με ένα βασικό μοντέλο που εκπαιδεύτηκε μόνο σε δεδομένα σαρωτή Ε και στους τέσσερις τομείς. Τα πράσινα πλαίσια δείχνουν αληθώς θετικά, τα κίτρινα πλαίσια ψευδώς αρνητικά και τα κόκκινα κουτάκια ψευδώς θετικά.

προσαρμογή της γνώσης που αποκτήθηκε σε έναν ή πολλαπλούς τομείς προέλευσης σε έναν τομέα στόχο. Στην ιατρική απεικόνιση, το DA χρησιμοποιείται για την προσαρμογή μεταξύ διαφορετικών τρόπων απεικόνισης ή διαφορετικών ρυθμίσεων λήψης εικόνας44. Προϋποθέτει πρόσβαση στον τομέα προέλευσης και προορισμού ταυτόχρονα, κάτι που δεν ισχύει για μια ρύθμιση που χρησιμοποιεί συνεχή ροή δεδομένων. Επιπλέον, το DA απαιτεί τη γνώση μιας ιδιότητας μέλους τομέα ή εργασίας για κάθε δείγμα. Αυτή η υπόθεση δεν είναι ρεαλιστική στην ιατρική απεικόνιση του πραγματικού κόσμου. Εκεί, η μεταβλητότητα των μεταδεδομένων που κωδικοποιούν πληροφορίες απόκτησης εικόνας δεν αντιστοιχεί άμεσα στη συγκρισιμότητα των χαρακτηριστικών απεικόνισης13. Εφόσον δεν υποθέτουμε ότι έχουμε πρόσβαση σε αυτή τη γνώση, αυτές οι μέθοδοι δεν είναι εφαρμόσιμες για συνεχή μάθηση στην κλινική ρουτίνα. Ως εκ τούτου, μέχρι σήμερα, δεν έχουν υιοθετηθεί στην πράξη. Ένας τρίτος σχετικός τομέας είναι η μεταβιβαστική μάθηση45. Εδώ, ένα υπάρχον μοντέλο μεταφέρεται σε μια νέα εργασία ή τομέα με τελειοποίηση σε νέα δεδομένα. Ο μοναδικός στόχος είναι ένα μοντέλο να έχει καλή απόδοση εκεί, ανεξάρτητα από την ικανότητά του να λειτουργεί καλά στον αρχικό τομέα. Κατά τη λεπτομέρεια δεν χρειάζονται δεδομένα από τον αρχικό τομέα.

Τα αποτελέσματά μας δείχνουν ότι η ικανότητα των στατικών μοντέλων να τμηματοποιούν και να ανιχνεύουν είναι περιορισμένη όταν λαμβάνονται δεδομένα με μηχανές λήψης εικόνας εκτός της αρχικής κατανομής εκπαίδευσης. Ταυτόχρονα, αφελείς προσεγγίσεις που εκπαιδεύονται συνεχώς σε νέους σαρωτές ξεχνούν παλιά χαρακτηριστικά απεικόνισης, χάνοντας την ικανότητά τους να επεξεργάζονται δεδομένα με προηγούμενα χαρακτηριστικά απόκτησης. Με τη συνεχή συμπερίληψη νέων δεδομένων προπόνησης, διατηρώντας παράλληλα ένα ποικίλο σετ προβών, η δυναμική μνήμη αποδίδει καλή απόδοση σε ολόκληρο το σύνολο των παρατηρούμενων σαρωτών. Ο εντοπισμός ψευδοτομέων, που αντιπροσωπεύουν υποκοόρτες που παρουσιάζουν παρόμοια χαρακτηριστικά στυλ ή απεικόνισης, αποδίδει ομάδες εικόνων που αντιστοιχούν σε σαρωτές ή ομάδες σαρωτών που μοιράζονται παρόμοιες ιδιότητες εμφάνισης. Η ανίχνευση και η ένεση τους στην εκπαιδευτική διαδικασία για

Εικ. 6 Ενίσχυσημνήμηποικιλία. Σύγκριση σύνθεσης μνήμης για DM έναντι DM-PD για M=128. ένα TSNE πάνω από τους πίνακες Gram του συνόλου εκπαίδευσης δείχνει μια διάκριση των τομέων. Οι δείκτες δείχνουν τις θέσεις των στοιχείων μνήμης στο τέλος της προπόνησης για ένα τρέξιμο. Το DM-PD δείχνει μια πιο ίση κατανομή σε όλο το σετ προπόνησης. β Πέντε ψευδοτομείς που ανιχνεύθηκαν ανιχνεύθηκαν για μία μόνο εκτέλεση εκπαίδευσης DM-PD. Οι γραμμές δείχνουν τον αριθμό των στοιχείων τομέα που έχουν εκχωρηθεί στους ψευδοτομείς. c Ποσότητα στοιχείων τομέα σεμνήμημετά την προπόνηση για DM και DM-PD. Οι γραμμές σφάλματος αντιπροσωπεύουν την τυπική απόκλιση και τον μέσο όρο (μεσαία γραμμή), n=5 ανεξάρτητες εκτελέσεις.

Το DM βελτιώνει περαιτέρω την απόδοση του μοντέλου. Είναι σημαντικό ότι αυτοί οι ψευδοτομείς μπορούν να εκτείνονται σε πολλούς σαρωτές εάν έχουν κοινά χαρακτηριστικά απεικόνισης. Η χρήση μιας μέτρησης που βασίζεται σε στυλ μετριάζει την ανάγκη για γνώση ιδιότητας μέλους τομέα και επιδεικνύει παρόμοια απόδοση με τις σύγχρονες μεθόδους συνεχούς μάθησης που χρησιμοποιούν αυτές τις πληροφορίες.

Ένα περαιτέρω πλεονέκτημα της προσέγγισης σε σύγκριση με την εκπαίδευση μοντέλων ειδικά για σαρωτή, είναι ότι η απόδοση του μοντέλου σε έναν συγκεκριμένο σαρωτή συνήθως επωφελείται από την εκπαίδευση σε άλλους σαρωτές. Οι αναπαραστάσεις χαρακτηριστικών του μοντέλου αποκτούν καλύτερη γενίκευση από την εκπαίδευση σε σχετικά αλλά διαφορετικά δεδομένα. Αυτό οδηγεί στην επεξεργασία νέων δεδομένων σαρωτή που επωφελούνται από την εκπαίδευση σε παλαιότερους σαρωτές (μεταφορά προς τα εμπρός) και αντίστροφα (μεταφορά προς τα πίσω). Τα αποτελέσματα ήταν συνεπή σε διαφορετικές μεθόδους απεικόνισης (MRI, CT) και εργασίες ανάλυσης εικόνας (τμηματοποίηση, ανίχνευση).

Τα αποτελέσματα από την τμηματοποίηση της καρδιακής μας μαγνητικής τομογραφίας απέδειξαν ότι το ΣΔ είναι ωφέλιμο σε σύγκριση με την αφελή συνεχή μάθηση, παρουσιάζοντας λιγότερο καταστροφική λήθη και επιτυγχάνοντας αποτελέσματα συγκρίσιμα με μοντέλα που εκπαιδεύτηκαν σε ένα στατικό σετ εκπαίδευσης που αποτελούνταν από δεδομένα από όλους τους τομείς. Παρόμοια αποτελέσματα εμφανίστηκαν στην ανίχνευση όζων πνεύμονα στην αξονική τομογραφία και τα αποτελέσματα έδειξαν ότι η χρήση ψευδοτομέων (DM-PD) οδήγησε σε λιγότερες ψευδώς θετικές ανιχνεύσεις, σε σχέση με την τυπική δυναμικήμνήμη.

βότανα δράκου της ερήμου cistanche

Η προσέγγισή μας είναι ένα βήμα προς το σχεδιασμό μιας στρατηγικής για τη μάθηση σε μια συνεχή ροή δεδομένων ιατρικών εικόνων που μπορούν ενδεχομένως να αναπτυχθούν στην κλινική πράξη. Ωστόσο, η μέθοδος έχει αρκετούς περιορισμούς. Πρώτον, χρειάζεται περισσότερη έρευνα για να αποδειχθεί ότι μπορούμε να σχεδιάσουμε συστήματα που εγγυώνται ότι δεν θα υπάρξει καταστροφική λήθη στο μέλλον, όταν ο αριθμός των σαρωτών αυξηθεί σημαντικά. Η απόδειξη ότι η απόδοση των μοντέλων DL δεν θα μειωθεί με μελλοντικούς τομείς είναι πρόκληση. Δεύτερον, το DM απαιτεί την αποθήκευση ενός υποσυνόλου των εικόνων για πρόβα κατά τη διάρκεια της προπόνησης. Ενώ αυτό το σετ δοκιμασιών είναι σημαντικά μικρότερο από ολόκληρο το σύνολο δεδομένων, οι ανησυχίες σχετικά με το απόρρητο ή οι περιορισμοί αποθήκευσης ενδέχεται να γίνουν σχετικοί. Τέλος, δεν λαμβάνουμε υπόψη το κόστος σχολιασμού περιπτώσεων, υποθέτοντας ότι υπάρχουν διαθέσιμες ετικέτες στόχου ή πλαίσια οριοθέτησης για εκπαίδευση για κάθε δείγμα στη ροή δεδομένων. Στην κλινική πράξη, αυτή η υπόθεση δεν ισχύει, και απαιτείται μια έννοια του ανθρώπου στον βρόχο7 όπως η ενεργή μάθηση46 για τη συλλογή νέων σχολιασμών για άγνωστους τομείς οικονομικά.