Συγγραφείς: Jun Gao, NVIDIA, University of Toronto, Vector Institute (jung@nvidia.com) Tianchang Shen, NVIDIA, University of Toronto, Vector Institute (frshen@nvidia.com) Zian Wang, NVIDIA, University of Toronto, Vector Institute (zianw@nvidia.com) Wenzheng Chen, NVIDIA, University of Toronto, Vector Institute (wenzchen@nvidia.com) Kangxue Yin, NVIDIA (kangxuey@nvidia.com) Daiqing Li, NVIDIA (daiqingl@nvidia.com) Or Litany, NVIDIA (olitany@nvidia.com) Zan Gojcic, NVIDIA (zgojcic@nvidia.com) Sanja Fidler, NVIDIA, University of Toronto, Vector Institute (sfidler@nvidia.com) Περίληψη Καθώς διάφοροι κλάδοι κινούνται προς τη μοντελοποίηση τεράστιων 3D εικονικών κόσμων, η ανάγκη για εργαλεία δημιουργίας περιεχομένου που μπορούν να κλιμακωθούν ως προς την ποσότητα, την ποιότητα και την ποικιλομορφία του 3D περιεχομένου γίνεται εμφανής. Στην εργασία μας, στοχεύουμε στην εκπαίδευση αποδοτικών 3D παραγωγικών μοντέλων που συνθέτουν υφασμένα πλέγματα που μπορούν να καταναλωθούν άμεσα από 3D μηχανές απεικόνισης, καθιστώντας τα έτσι άμεσα χρησιμοποιήσιμα σε εφαρμογές κατάντη. Προηγούμενες εργασίες στην 3D παραγωγική μοντελοποίηση είτε στερούνται γεωμετρικών λεπτομερειών, είτε περιορίζονται στην τοπολογία πλέγματος που μπορούν να παράγουν, τυπικά δεν υποστηρίζουν υφές, είτε χρησιμοποιούν νευρωνικούς απεικονιστές στη διαδικασία σύνθεσης, πράγμα που καθιστά τη χρήση τους σε κοινό λογισμικό 3D μη τετριμμένη. Σε αυτή την εργασία, παρουσιάζουμε το GET3D, ένα enerative model που παράγει άμεσα xplicit extured meshes με πολύπλοκη τοπολογία, πλούσιες γεωμετρικές λεπτομέρειες και υφές υψηλής πιστότητας. Γεφυρώνουμε την πρόσφατη επιτυχία στη διαφορίσιμη μοντελοποίηση επιφανειών, την διαφορίσιμη απεικόνιση, καθώς και τα 2D Generative Adversarial Networks για την εκπαίδευση του μοντέλου μας από συλλογές 2D εικόνων. Το GET3D είναι ικανό να παράγει 3D υφασμένα πλέγματα υψηλής ποιότητας, που κυμαίνονται από αυτοκίνητα, καρέκλες, ζώα, μοτοσικλέτες και ανθρώπινους χαρακτήρες έως κτίρια, επιτυγχάνοντας σημαντικές βελτιώσεις σε σχέση με προηγούμενες μεθόδους. Η σελίδα του έργου μας: G E T 3D https://nv-tlabs.github.io/GET3D 1 Εισαγωγή Το ποικίλο, υψηλής ποιότητας 3D περιεχόμενο γίνεται όλο και πιο σημαντικό για διάφορους κλάδους, συμπεριλαμβανομένων των παιχνιδιών, της ρομποτικής, της αρχιτεκτονικής και των κοινωνικών πλατφορμών. Ωστόσο, η χειροκίνητη δημιουργία 3D στοιχείων απαιτεί πολύ χρόνο και ειδικές τεχνικές γνώσεις, καθώς και δεξιότητες μοντελοποίησης. Μία από τις κύριες προκλήσεις είναι η κλίμακα – ενώ μπορεί κανείς να βρει 3D μοντέλα σε 3D αγορές όπως το Turbosquid [ ] ή το Sketchfab [ ], η δημιουργία πολλών 3D μοντέλων για, ας πούμε, την πλήρωση ενός παιχνιδιού ή μιας ταινίας με ένα πλήθος χαρακτήρων που όλοι φαίνονται διαφορετικοί, εξακολουθεί να απαιτεί σημαντικό χρόνο από τον καλλιτέχνη. 4 3 Για να διευκολυνθεί η διαδικασία δημιουργίας περιεχομένου και να καταστεί προσβάσιμη σε μια ποικιλία (αρχάριων) χρηστών, τα 3D παραγωγικά δίκτυα που μπορούν να παράγουν υψηλής ποιότητας και ποικίλα 3D στοιχεία έχουν γίνει πρόσφατα ένας ενεργός τομέας έρευνας [ , , , , , , , , , , ]. Ωστόσο, για να είναι πρακτικά χρήσιμα για τις τρέχουσες εφαρμογές του πραγματικού κόσμου, τα 3D παραγωγικά μοντέλα θα πρέπει ιδανικά να πληρούν τις ακόλουθες απαιτήσεις: Θα πρέπει να έχουν την ικανότητα να παράγουν σχήματα με λεπτομερή γεωμετρία και αυθαίρετη τοπολογία, Η έξοδος θα πρέπει να είναι ένα υφασμένο πλέγμα, το οποίο είναι μια κύρια αναπαράσταση που χρησιμοποιείται από τυπικά πακέτα λογισμικού γραφικών, όπως το Blender [ ] και το Maya [ ], και Θα πρέπει να μπορούμε να αξιοποιήσουμε 2D εικόνες για επίβλεψη, καθώς είναι πιο ευρέως διαθέσιμες από τα ρητά 3D σχήματα. 5 14 43 46 53 68 75 60 59 69 23 (α) (β) 15 1 (γ) Η προηγούμενη εργασία στην 3D παραγωγική μοντελοποίηση έχει επικεντρωθεί σε υποσύνολα των παραπάνω απαιτήσεων, αλλά καμία μέθοδος μέχρι σήμερα δεν τις πληροί όλες (Πίνακας ). Για παράδειγμα, μέθοδοι που παράγουν 3D νέφη σημείων [ , 68, 75] τυπικά δεν παράγουν υφές και πρέπει να μετατραπούν σε πλέγμα σε μετα-επεξεργασία. 1 5 Μέθοδοι που παράγουν voxels συχνά στερούνται γεωμετρικών λεπτομερειών και δεν παράγουν υφή [ , , , ]. Παραγωγικά μοντέλα βασισμένα σε νευρωνικά πεδία [ , ] εστιάζουν στην εξαγωγή γεωμετρίας αλλά παραβλέπουν την υφή. Τα περισσότερα από αυτά απαιτούν επίσης ρητή 3D επίβλεψη. Τέλος, μέθοδοι που παράγουν άμεσα υφασμένα 3D πλέγματα [ , ] τυπικά απαιτούν προκαθορισμένα πρότυπα σχήματος και δεν μπορούν να παράγουν σχήματα με πολύπλοκη τοπολογία και μεταβλητή γένος. 66 20 27 40 43 14 54 53 Πρόσφατα, η ταχεία πρόοδος στην νευρωνική απεικόνιση όγκου [ ] και στα 2D Generative Adversarial Networks (GANs) [ , , , , ] έχει οδηγήσει στην άνοδο της 3D-aware σύνθεσης εικόνων [ , , , , , ]. Ωστόσο, αυτή η γραμμή εργασίας στοχεύει στη σύνθεση πολλαπλών όψεων συνεπών εικόνων χρησιμοποιώντας νευρωνική απεικόνιση στη διαδικασία σύνθεσης και δεν εγγυάται ότι μπορούν να παραχθούν ουσιαστικά 3D σχήματα. Ενώ ένα πλέγμα μπορεί δυνητικά να ληφθεί από την υποκείμενη νευρωνική αναπαράσταση πεδίου χρησιμοποιώντας τον αλγόριθμο marching cube [ ], η εξαγωγή της αντίστοιχης υφής δεν είναι τετριμμένη. 45 34 35 33 29 52 7 57 8 49 51 25 39 Στην εργασία μας, εισάγουμε μια νέα προσέγγιση που στοχεύει στην αντιμετώπιση όλων των απαιτήσεων ενός πρακτικά χρήσιμου 3D παραγωγικού μοντέλου. Συγκεκριμένα, προτείνουμε το GET3D, ένα enerative model για 3D σχήματα που παράγει άμεσα xplicit extured meshes με υψηλή γεωμετρική και υφασματική λεπτομέρεια και αυθαίρετη τοπολογία πλέγματος. Στην καρδιά της προσέγγισής μας βρίσκεται μια παραγωγική διαδικασία που χρησιμοποιεί μια διαφορίσιμη μέθοδο εξαγωγής επιφάνειας [ ] και μια τεχνική διαφορίσιμης απεικόνισης [ , ]. Η πρώτη μας επιτρέπει να βελτιστοποιήσουμε και να παράγουμε άμεσα υφασμένα 3D πλέγματα αυθαίρετης τοπολογίας, ενώ η δεύτερη μας επιτρέπει να εκπαιδεύσουμε το μοντέλο μας με 2D εικόνες, αξιοποιώντας έτσι ισχυρούς και ώριμους διακριτές που αναπτύχθηκαν για 2D σύνθεση εικόνων. Δεδομένου ότι το μοντέλο μας παράγει άμεσα πλέγματα και χρησιμοποιεί έναν υψηλά αποδοτικό (διαφορίσιμο) απεικονιστή γραφικών, μπορούμε εύκολα να κλιμακώσουμε το μοντέλο μας για να εκπαιδευτεί με ανάλυση εικόνας έως και 1024 × 1024, επιτρέποντάς μας να μάθουμε υψηλής ποιότητας γεωμετρικές και υφασματικές λεπτομέρειες. G E T 3D ρητής 60 47 37 Επιδεικνύουμε την κορυφαία απόδοση στην άνευ όρων 3D σύνθεση σχημάτων σε πολλαπλές κατηγορίες με πολύπλοκη γεωμετρία από το ShapeNet [ ], το Turbosquid [ ] και το Renderpeople [ ], όπως καρέκλες, μοτοσικλέτες, αυτοκίνητα, ανθρώπινοι χαρακτήρες και κτίρια. Με ρητό πλέγμα ως αναπαράσταση εξόδου, το GET3D είναι επίσης πολύ ευέλικτο και μπορεί εύκολα να προσαρμοστεί σε άλλες εργασίες, όπως: εκμάθηση σύνθεσης υλικών και φωτιστικών εφέ που εξαρτώνται από την όψη χρησιμοποιώντας προηγμένη διαφορίσιμη απεικόνιση [ ], χωρίς επίβλεψη, σύνθεση 3D σχημάτων καθοδηγούμενη από κείμενο χρησιμοποιώντας το CLIP [ ] embedding. 9 4 2 (α) 12 (β) 56 2 Σχετική Εργασία Ανασκοπούμε τις πρόσφατες εξελίξεις σε 3D παραγωγικά μοντέλα για γεωμετρία και εμφάνιση, καθώς και σε 3D-aware παραγωγική σύνθεση εικόνων. Τα τελευταία χρόνια, τα 2D παραγωγικά μοντέλα έχουν επιτύχει φωτορεαλιστική ποιότητα σε σύνθεση εικόνων υψηλής ανάλυσης [ , , , , , , ]. Αυτή η πρόοδος έχει εμπνεύσει επίσης την έρευνα στη δημιουργία 3D περιεχομένου. Πρώιμες προσεγγίσεις στόχευαν στην άμεση επέκταση των 2D CNN παραγωγών σε 3D πλέγματα voxel [ , , , , ], αλλά η υψηλή κατανάλωση μνήμης και η υπολογιστική πολυπλοκότητα των 3D συνελίξεων εμποδίζουν τη διαδικασία παραγωγής σε υψηλή ανάλυση. Ως εναλλακτική λύση, άλλες εργασίες έχουν εξερευνήσει αναπαραστάσεις νέφους σημείων [ , , , ], άμεσες [ , ], ή octree [ ]. Ωστόσο, αυτές οι εργασίες εστιάζουν κυρίως στην παραγωγή γεωμετρίας και παραβλέπουν την εμφάνιση. Οι αναπαραστάσεις εξόδου τους επίσης χρειάζονται μετα-επεξεργασία για να γίνουν συμβατές με τις τυπικές μηχανές γραφικών. 3D Παραγωγικά Μοντέλα 34 35 33 52 29 19 16 66 20 27 40 62 5 68 75 46 43 14 30 Πιο παρόμοιες με την εργασία μας, οι Textured3DGAN [ , ] και DIBR [ ] παράγουν υφασμένα 3D πλέγματα, αλλά διατυπώνουν την παραγωγή ως παραμόρφωση ενός πλέγματος-προτύπου, γεγονός που τα εμποδίζει από την παραγωγή πολύπλοκης τοπολογίας ή σχημάτων με μεταβαλλόμενο γένος, κάτι που η μέθοδός μας μπορεί να κάνει. Οι PolyGen [ ] και SurfGen [ ] μπορούν να παράγουν πλέγματα με αυθαίρετη τοπολογία, αλλά δεν συνθέτουν υφές. 54 53 11 48 41 Εμπνευσμένη από την επιτυχία της νευρωνικής απεικόνισης όγκου [ ] και των άμεσων αναπαραστάσεων [ , ], η πρόσφατη εργασία άρχισε να αντιμετωπίζει το πρόβλημα της 3D-aware σύνθεσης εικόνων [ , , , , , , , , , ]. Ωστόσο, τα νευρωνικά δίκτυα απεικόνισης όγκου είναι τυπικά αργά στην ερώτηση, οδηγώντας σε μεγάλους χρόνους εκπαίδευσης [ , ], και παράγουν εικόνες περιορισμένης ανάλυσης. Το GIRAFFE [ ] και το StyleNerf [ ] βελτιώνουν την αποδοτικότητα εκπαίδευσης και απεικόνισης κάνοντας νευρωνική απεικόνιση σε χαμηλότερη ανάλυση και στη συνέχεια αναβαθμίζοντας τα αποτελέσματα με ένα 2D CNN. Ωστόσο, το κέρδος στην απόδοση έρχεται με κόστος μειωμένης συνέπειας πολλαπλών όψεων. Χρησιμοποιώντας έναν διπλό διακριτή, το EG3D [ ] μπορεί να μετριάσει εν μέρει αυτό το πρόβλημα. Παρόλα αυτά, η εξαγωγή μιας υφασμένης επιφάνειας από μεθόδους που βασίζονται σε νευρωνική απεικόνιση είναι ένα μη τετριμμένο εγχείρημα. Αντίθετα, το GET3D παράγει άμεσα υφασμένα 3D πλέγματα που μπορούν να χρησιμοποιηθούν άμεσα σε τυπικές μηχανές γραφικών. 3D-Aware Παραγωγική Σύνθεση Εικόνων 45 43 14 7 57 49 26 25 76 8 51 58 67 7 57 49 25 8 3 Μέθοδος Παρουσιάζουμε τώρα το πλαίσιο GET3D για τη σύνθεση υφασμένων 3D σχημάτων. Η διαδικασία παραγωγής μας χωρίζεται σε δύο μέρη: ένα γεωμετρικό κλάδο, ο οποίος διαφορίσιμα παράγει ένα πλέγμα επιφάνειας αυθαίρετης τοπολογίας, και έναν υφασματικό κλάδο που παράγει ένα υφασματικό πεδίο το οποίο μπορεί να ερωτηθεί στα σημεία της επιφάνειας για να παραχθούν χρώματα. Το τελευταίο μπορεί να επεκταθεί σε άλλες ιδιότητες της επιφάνειας, όπως για παράδειγμα υλικά (Ενότητα ). Κατά την εκπαίδευση, χρησιμοποιείται ένας αποδοτικός διαφορίσιμος ραστεροποιητής για την απεικόνιση του παραγόμενου υφασμένου πλέγματος σε 2D εικόνες υψηλής ανάλυσης. Η όλη διαδικασία είναι διαφορίσιμη, επιτρέποντας την ανταγωνιστική εκπαίδευση από εικόνες (με μάσκες που υποδεικνύουν ένα αντικείμενο ενδιαφέροντος) με διάδοση των κλίσεων από τον 2D διακριτή στους δύο κλάδους παραγωγής. Το μοντέλο μας απεικονίζεται στο Σχήμα . Στη συνέχεια, παρουσιάζουμε πρώτα τον 3D παραγωγό μας στην Ενότητα , πριν προχωρήσουμε στη διαφορίσιμη απεικόνιση και στις συναρτήσεις απώλειας στην Ενότητα . 4.3.1 2 3.1 3.2 3.1 Παραγωγικό Μοντέλο 3D Υφασμένων Πλεγμάτων Στοχεύουμε στην εκμάθηση ενός 3D παραγωγού = ( ) για να χαρτογραφήσει ένα δείγμα από μια Γκαουσιανή κατανομή M, E G z ∈ N (0*,* ) σε ένα πλέγμα με υφή . z I M E Δεδομένου ότι το ίδιο γεωμετρικό σχήμα μπορεί να έχει διαφορετικές υφές, και η ίδια υφή μπορεί να εφαρμοστεί σε διαφορετικά γεωμετρικά σχήματα, δειγματίζουμε δύο τυχαία διανύσματα εισόδου 1 ∈ R512 και 2 ∈ R512. Ακολουθώντας το StyleGAN [ , , ], χρησιμοποιούμε μη γραμμικά δίκτυα χαρτογράφησης geo και tex για να χαρτογραφήσουμε τα 1 και 2 σε ενδιάμεσα λανθάνοντα διανύσματα 1 = geo( 1) και 2 = tex( 2) τα οποία στη συνέχεια χρησιμοποιούνται για την παραγωγή που ελέγχουν την παραγωγή 3D σχημάτων και υφής, αντίστοιχα. Παρουσιάζουμε επίσημα τον παραγωγό για τη γεωμετρία στην Ενότητα και τον υφασματικό παραγωγό στην Ενότητα . z z 34 35 33 f f z z w f z w f z στυλ 3.1.1 3.1.2 3.1.1 Γεωμετρικός Παραγωγός Σχεδιάζουμε τον γεωμετρικό παραγωγό μας για να ενσωματώσουμε το DMTet [ ], μια πρόσφατα προτεινόμενη διαφορίσιμη αναπαράσταση επιφάνειας. Το DMTet αναπαριστά τη γεωμετρία ως ένα πεδίο προσημασμένης απόστασης (SDF) ορισμένο σε ένα παραμορφώσιμο τετραεδρικό πλέγμα [ , ], από το οποίο η επιφάνεια μπορεί να ανακτηθεί διαφορίσιμα μέσω marching tetrahedra [ ]. Η παραμόρφωση του πλέγματος μετακινώντας τις κορυφές του οδηγεί σε καλύτερη χρήση της ανάλυσής του. Υιοθετώντας το DMTet για την εξαγωγή επιφάνειας, μπορούμε να παράγουμε ρητά πλέγματα με αυθαίρετη τοπολογία και γένος. Στη συνέχεια, παρέχουμε μια σύντομη περίληψη του DMTet και παραπέμπουμε τον αναγνώστη στην αρχική εργασία για περαιτέρω λεπτομέρειες. 60 22 24 17 Έστω ( ) η πλήρης 3D χώρος όπου βρίσκεται το αντικείμενο, όπου είναι οι κορυφές στο τετραεδρικό πλέγμα . Κάθε τετράεδρο ∈ ορίζεται χρησιμοποιώντας τέσσερις κορυφές { }, με ∈ {1*, . . . , K*}, όπου είναι ο συνολικός αριθμός των τετραέδρων, και ∈ ∈ R3. Εκτός από τις 3D συντεταγμένες του , κάθε κορυφή περιέχει την τιμή SDF ∈ R και την παραμόρφωση ∆ ∈ R3 της κορυφής από την αρχική κανονική της συντεταγμένη. Αυτή η αναπαράσταση επιτρέπει την ανάκτηση του ρητού πλέγματος μέσω διαφορίσιμων marching tetrahedra [ ], όπου οι τιμές SDF σε συνεχή χώρο υπολογίζονται με βαριτομετρική παρεμβολή των τιμών τους στις παραμορφωμένες κορυφές ′ = + ∆ . VT , T VT T Tk T v ak , v bk , v ck , v dk k K v ik VT , v ik i v i si v i 60 si v v i v i Χαρτογραφούμε το 1 ∈ R512 σε τιμές SDF και παραμορφώσεις σε κάθε κορυφή μέσω μιας σειράς από συνελικτικά δίκτυα 3D και πλήρως συνδεδεμένα επίπεδα. Συγκεκριμένα, χρησιμοποιούμε πρώτα συνελικτικά δίκτυα 3D για να παραγάγουμε έναν όγκο χαρακτηριστικών που καθορίζεται από το 1. Στη συνέχεια, ερωτούμε το χαρακτηριστικό σε κάθε κορυφή ∈ χρησιμοποιώντας τριγραμμική παρεμβολή και το τροφοδοτούμε σε MLPs που παράγουν την τιμή SDF και την παραμόρφωση ∆ . Σε περιπτώσεις όπου απαιτείται μοντελοποίηση σε υψηλή ανάλυση (π.χ. μοτοσικλέτα με λεπτές δομές στους τροχούς), χρησιμοποιούμε περαιτέρω υποδιαίρεση όγκου σύμφωνα με το [ ]. Αρχιτεκτονική Δικτύου w v i w v i VT si v i 60 Αφού λάβουμε τα και ∆ για όλες τις κορυφές, χρησιμοποιούμε τον διαφορίσιμο αλγόριθμο marching tetrahedra για να εξαγάγουμε το ρητό πλέγμα. Το marching tetrahedra καθορίζει την τοπολογία του πλέγματος εντός κάθε τετραέδρου με βάση τα πρόσημα των . Συγκεκριμένα, μια όψη πλέγματος εξάγεται όταν sign( ) /= sign( ), όπου υποδηλώνουν τους δείκτες των κορυφών στην ακμή του τετραέδρου, και οι κορυφές αυτής της όψης καθορίζονται με γραμμική παρεμβολή ως mi,j = v 0 i sj−v 0 j si sj−si . Σημειώστε ότι η παραπάνω εξίσωση αξιολογείται μόνο όταν si 6= sj , επομένως είναι διαφορίσιμη, και η κλίση από το mi,j μπορεί να αντι-διαδοθεί στις τιμές SDF si και στις παραμορφώσεις ∆vi . Με αυτή την αναπαράσταση, σχήματα αυθαίρετης τοπολογίας μπορούν εύκολα να παραχθούν προβλέποντας διαφορετικά πρόσημα των si . Διαφορίσιμη Εξαγωγή Πλέγματος si v i si si sj i, j m i,j 3.1.2 Υφασματικός Παραγωγός Η άμεση παραγωγή ενός χάρτη υφής συμβατού με το πλέγμα εξόδου δεν είναι τετριμμένη, καθώς το παραγόμενο σχήμα μπορεί να έχει αυθαίρετο γένος και τοπολογία. Έτσι, παραμετροποιούμε την υφή ως ένα υφασματικό πεδίο [ ]. 50 Συγκεκριμένα, μοντελοποιούμε το υφασματικό πεδίο με μια συνάρτηση που χαρτογραφεί τη 3D τοποθεσία ενός σημείου επιφάνειας ∈ R3, καθορισμένη από το 2, στο χρώμα RGB ∈ R3 σε αυτή τη θέση. Δεδομένου ότι το υφασματικό πεδίο εξαρτάται από τη γεωμετρία, καθορίζουμε επιπλέον αυτήν τη χαρτογράφηση με τον κωδικό γεωμετρίας 1, έτσι ώστε = ( *,* 1 ⊕ 2), όπου ⊕ δηλώνει συνένωση. ft p w c w c ft p w w Αναπαριστούμε το υφασματικό μας πεδίο χρησιμοποιώντας μια αναπαράσταση τριών επιπέδων (tri-plane), η οποία είναι αποδοτική και εκφραστική στην ανακατασκευή 3D αντικειμένων [ ] και στην παραγωγή 3D-aware εικόνων [ ]. Συγκεκριμένα, ακολουθούμε το [ , ] και χρησιμοποιούμε ένα συνελικτικό νευρωνικό δίκτυο 2D που καθορίζεται από την είσοδο για να χαρτογραφήσει τον λανθάνοντα κώδικα 1 ⊕ 2 σε τρία ορθογώνια επίπεδα χαρακτηριστικών ευθυγραμμισμένα με τους άξονες μεγέθους × × ( × 3), όπου = 256 υποδηλώνει την χωρική ανάλυση και = 32 τον αριθμό των καναλιών. Αρχιτεκτονική Δικτύου 55 8 8 35 w w N N C N C Δεδομένα τα επίπεδα χαρακτηριστικών, το διάνυσμα χαρακτηριστικών f t ∈ R 32 ενός σημείου επιφάνειας p μπορεί να ανακτηθεί ως f t = P e ρ(πe(p)), όπου πe(p) είναι η προβολή του σημείου p στο επίπεδο χαρακτηριστικών e και ρ(·) συμβολίζει την διγραμμική παρεμβολή των χαρακτηριστικών. Ένα επιπλέον πλήρως συνδεδεμένο