Τεχνητή Νοημοσύνη και Ελευθερία Βούλησης

 Του Νικολάου Ποθητού

Στην εποχή της σύγχυσης που ζούμε, κάθε φορά που βρισκόμαστε μπροστά σε κάποιο νέο τεχνολογικό επίτευγμα, αντιδρούμε σπασμωδικά: πολλοί από εμάς φοβόμαστε τους νεοτερισμούς που απειλούν τις παραδόσεις μας, ενώ κάποιοι άλλοι από εμάς τρέχουμε να αγοράσουμε όποια καινούργια μικροσυσκευή λανσαριστεί στην αγορά.

Γενικά, αυτό που τελικά συμβαίνει είναι ότι τα ίδια γεγονότα μάς προσπερνούν, αφού η αφομοίωση ή η απόρριψη από την κοινωνία μίας δυνατότητας που μας προσφέρει η τεχνολογία είναι κάτι που γίνεται σχεδόν ανεξέλεγκτα. Κάτι τέτοιο αναμένεται να συμβεί και με την Τεχνητή Νοημοσύνη [1], για την οποία θα μιλήσουμε σε αυτό το άρθρο.

1   Εισαγωγή

Πριν όμως ξεδιπλώσουμε τις όποιες σκέψεις μας πάνω στο θέμα αυτό, είναι απαραίτητο να απαντήσουμε στο ερώτημα τι είναι Τεχνητή Νοημοσύνη. Μία απλή απάντηση στο ερώτημα αυτό θα ήταν η εξής: Τεχνητή Νοημοσύνη είναι η ενσωμάτωση της ανθρώπινης νοημοσύνης μέσα σε έναν υπολογιστή. Αυτή η απάντησή όμως δεν είναι πλήρης αφού δεν ξεκαθαρίζει ένα πράγμα: τι είναι ανθρώπινη νοημοσύνη;

Η πικρή αλήθεια είναι ότι οι επιστήμονες της Πληροφορικής για πάνω από μισό αιώνα δεν έχουν καταφέρει να δώσουν ικανοποιητικές απαντήσεις σε αυτά τα ερωτήματα. Αυτός είναι άλλωστε και ο λόγος που ακόμα και σήμερα δαπανώνται αρκετά χρήματα και γίνονται πολλές προσπάθειες από τους ερευνητές σε αυτόν τον χώρο.

2   Σημαντικά Επιτεύγματα

Το 1950 ο Άγγλος μαθηματικός Άλαν Τούρινγκ διατύπωσε μία πρόταση [2], η οποία με απλά λόγια λέει το εξής: Ας υποθέσουμε ότι συνομιλούμε με κάποιον άλλον στο διαδίκτυο, αλλά δεν τον βλέπουμε· η συζήτηση είναι ζωντανή και φυσιολογική· στο τέλος ο συνομιλητής μάς αποκαλύπτει ότι δεν είναι άνθρωπος, αλλά υπολογιστής· το γεγονός ότι τόση ώρα νομίζαμε (λανθασμένα) ότι συνομιλούσαμε με άνθρωπο, δεν είναι μία απόδειξη ότι ο υπολογιστής αυτός έχει νοημοσύνη;

2.1   Συνομιλία Υπολογιστή-Ανθρώπου

Δεν πέρασαν ούτε δύο δεκαετίες και ο Τζόζεφ Ουαϊζενπάουμ παρουσίασε το 1966 έναν υπολογιστή με το όνομα «Eliza» [3], που έκανε αυτό ακριβώς: ήταν σε θέση να εξαπατήσει τους συνομιλητές του, ότι είναι άνθρωπος. Για να πετύχει τον σκοπό του, ο υπολογιστής αυτός χρησιμοποιούσε διάφορα τεχνάσματα. Π.χ. όταν του μίλαγες για κάποιο θέμα που δεν ήξερε, ας πούμε για παράδειγμα το αγαπημένο σου επιτραπέζιο παιχνίδι, αντί να μπει στο νόημα επαναλάμβανε μηχανικά προτάσεις του στυλ «περίγραψέ μου το αγαπημένο σου επιτραπέζιο», «πες μου περισσότερα για το επιτραπέζιο»· και όταν του απαντούσες π.χ. ότι «παίζεται με πέντε πιόνια», τότε θα σου ανταπαντούσε «τι θα έλεγες να μιλήσουμε για τα πιόνια;». Δηλαδή προέκυψε ένας υπολογιστής-παπαγάλος ο οποίος κρεμόταν από τα χείλη σου, για να δει τι λέξεις θα χρησιμοποιήσεις και να σε ρωτήσει για αυτές, χωρίς να μπαίνει στο νόημα των λεγομένων σου.

2.2   Παρτίδα Σκάκι Υπολογιστή εναντίον Ανθρώπου

Καθώς κυλούσαν όμως τα χρόνια σημειώθηκαν και μεγάλες επιτυχίες από τη μεριά των υπολογιστών. Το 1997 ο υπολογιστής ονόματι «Deep Blue» της εταιρείας IBM νίκησε τον Γκάρι Κασπάροφ, που είναι ίσως ο μεγαλύτερος σκακιστής όλων των εποχών [4]. Σίγουρα αυτή η ήττα του μεγάλου Κασπάροφ υποχρεώνει και τον πλέον δύσπιστο να παραδεχτεί ότι ο υπολογιστής «Deep Blue» διαθέτει κάποιο είδος Τεχνητής Νοημοσύνης, έστω και αν αυτή περιορίζεται στο σκάκι, έστω και αν αυτή δεν στηρίζεται σε κάποια υψηλή στρατηγική, αλλά στο ξεδίπλωμα όλων των δισεκατομμυρίων κινήσεων που μπορεί να κάνει ο αντίπαλος.

2.3   Σύγκριση Νοημοσύνης Υπολογιστών, Ζώων και Ανθρώπων

Ο διεθνώς καταξιωμένος και πολυβραβευμένος επιστήμονας της Πληροφορικής καθηγητής Χρίστος Παπαδημητρίου αναφέρει σε άρθρο του [5] ότι ο υπολογιστής «Deep Blue» είναι όσο έξυπνος όσο μία σαύρα. Αυτό μοιάζει αστείο, αφού μία σαύρα δεν μπορεί καν να παίξει σκάκι. Αυτή όμως η αδυναμία της εξισορροπείται από την ικανότητά της να κυνηγά έντομα, να επιζεί και να αναπαράγεται κάτω από αντίξοες συνθήκες, πράγμα που δεν μπορεί φυσικά να κάνει ένας υπολογιστής.

Όσον αφορά τον άνθρωπο, προβλέπεται¹ ότι το 2020 οι υπολογιστές θα τον φτάσουν σε «ακατέργαστη εξυπνάδα». Μπορούν όμως οι υπολογιστές να έχουν συναισθήματα; ίσως κάποιος αναρωτηθεί. Επιστήμονες από τον χώρο της Νευροψυχολογίας² έχουν υποστηρίξει ότι τα συναισθήματα δεν είναι τίποτα άλλο παρά απλοποιήσεις της διαδικασίας αποφάσεων του μυαλού μας, που χρησιμεύουν στην επιβίωσή μας με το να μας προτρέπουν π.χ. να το βάζουμε στα πόδια (φόβος), να τολμάμε (επιθυμία), να συμμορφωνόμαστε (ντροπή) [9].

Αλλά ας δούμε πρώτα στην επόμενη ενότητα ποιες είναι οι πραγματικές δυνατότητες ενός υπολογιστή (ή ενός προγράμματος) και στη συνέχεια θα εξετάσουμε αν μπορεί να προσομοιώσει πραγματικά όλη την ανθρώπινη ψυχοσύνθεση.

3   Δυνατότητες Υπολογιστικών Μηχανών

Η νίκη του υπερ-υπολογιστή «Deep Blue» στο σκάκι βασίστηκε περισσότερο στα ποσοτικά και λιγότερο στα ποιοτικά χαρακτηριστικά του. Πράγματι, οι αποθηκευτικές δυνατότητες, καθώς και η ταχύτητα με την οποία εκτελεί εντολές ένας υπολογιστής έχουν αυξηθεί δραματικά τις τελευταίες δεκαετίες.

Τα ποιοτικά χαρακτηριστικά ωστόσο μίας υπολογιστικής μηχανής παραμένουν τα ίδια από τότε που δημιουργήθηκε ο πρώτος υπολογιστής μέχρι σήμερα και είναι ορισμένα με ρητό τρόπο. Στη συνέχεια παρουσιάζουμε μέσα από απλά παραδείγματα τα τρία θεμέλια πάνω στα οποία χτίζονται όλα τα προγράμματα:

1. Εκτέλεση συγκεκριμένων σαφώς ορισμένων εντολών. Π.χ. μία σαφής εντολή μπορεί να είναι «υπολόγισε το άθροισμα δύο αριθμών και αποθήκευσέ το στη μνήμη». Όλες οι εντολές εκτελούνται σε μία συγκεκριμένη σειρά.
2. Η δεύτερη δυνατότητα ενός προγράμματος είναι να επιλέγει ανά πάσα στιγμή ποια εντολή θα εκτελέσει. Π.χ. αν βρέξει, πάρε ομπρέλα, αλλιώς φόρεσε καπέλο. Τονίζουμε ότι η συνθήκη για το αν θα εκτελεστεί μία εντολή (δηλαδή το «αν θα βρέξει») πρέπει υποχρεωτικά να οριστεί σαφέστατα. Δεν μπορούμε δηλαδή να πούμε: αν βρέξει λίγο, πάρε αδιάβροχο, εκτός αν ορίσουμε με σαφή τρόπο τι θα πει το «αν βρέξει λίγο».
3. Επανάληψη μίας εντολής μέχρι να ικανοποιηθεί ένας στόχος. Π.χ. κάνε κουπί μέχρι να φτάσεις στην ακτή. Και σε αυτήν την περίπτωση βέβαια ο στόχος πρέπει να είναι σαφής.

Συνδυάζοντας τα τρία παραπάνω θεμέλια είμαστε εν πολλοίς σε θέση να προγραμματίσουμε οποιονδήποτε υπολογιστή, έτσι ώστε να παρουσιάσει τη συμπεριφορά που εμείς επιθυμούμε. Επαναλαμβάνουμε ότι αυτά είναι τα θεμέλια όλων των προγραμμάτων. Έτσι μπορούμε να φτιάξουμε ένα πρόγραμμα το οποίο θα δέχεται κάποια είσοδο, θα την επεξεργάζεται μέσω των παραπάνω τριών δυνατοτήτων και στη συνέχεια θα δίνει κάποιο αποτέλεσμα στην έξοδό του.

4   Ας Υποθέσουμε ότι Είμαστε... Υπολογιστές 

Όλη αυτή η κουραστική παρουσίαση των ποιοτικών δυνατοτήτων ενός υπολογιστή στην προηγούμενη ενότητα είχε σκοπό να δείξει το εξής: ότι η λειτουργία του είναι σαφώς ορισμένη, προκαθορίζεται όταν τον φτιάχνουμε και εξαρτάται μόνο από το περιβάλλον του ―δηλαδή την είσοδό του ή τα δεδομένα με τα οποία τον «ταΐζουμε» κάθε στιγμή.

Ας κάνουμε την υπόθεση εργασίας ότι το ίδιο ισχύει και για τον άνθρωπο. Ότι όλη η εξέλιξή του και η εν γένει συμπεριφορά του (η «έξοδός» του) εξαρτάται μόνο από το περιβάλλον του (την «είσοδό» του) καθώς και χαρακτηριστικά που κληρονόμησε από τους εγγείς ή μακρινούς προγόνους του (δηλαδή το γενετικό υλικό ή «πρόγραμμά» του).

Αν δούμε όμως τον άνθρωπο από αυτήν τη σκοπιά, τον απαλλάσσουμε από τις ευθύνες των πράξεών του. Αν κάνουμε κάτι καλό δεν αξίζουμε έπαινο, αλλά η τιμή ανήκει εξ ολοκλήρου στο περιβάλλον και στους δημιουργούς μας. Αν πάλι κάνουμε κάτι άσχημο, μπορούμε άνετα να μετακυλήσουμε την ευθύνη στο περιβάλλον που μας ώθησε στο κακό και στα έμφυτα ένστικτά μας τα οποία εξουσιάζουν τη ζωή μας.

Η «έξοδός» μας, τα λόγια και οι πράξεις μας, είναι με ακρίβεια καθορισμένες από την «είσοδό» και το «πρόγραμμά».³ Αυτό είναι γεγονός, αλλά ως έναν βαθμό. Αν είναι 100% αλήθεια, τότε δεν είμαστε τίποτα άλλο από καλοκουρδισμένες ή κακοκουρδισμένες μηχανές και η πρόοδός μας, η πορεία μας δεν εξαρτάται από εμάς, αλλά είναι προκαθορισμένη.

Σύμφωνα με κάποιες φιλοσοφικές θεωρίες, τα πάντα είναι προκαθορισμένα να λειτουργούν όπως ένας μηχανισμός ρολογιού.

5   Μπορεί η Ύλη να Έχει Ελεύθερη Βούληση;

Ένα ερώτημα που έχει εγείρει πολλές συζητήσεις εδώ και αιώνες είναι το αν η ύλη ―και καθετί το υλικό― μπορεί να έχει ελεύθερη βούληση. Ο Γάλλος φιλόσοφος, μαθηματικός και επιστήμονας φυσικών επιστημών Καρτέσιος το 1641 διατύπωσε τη θεωρία του δυϊσμού· υποστήριξε δηλαδή ―με φιλοσοφικά επιχειρήματα― ότι η ψυχή και το σώμα είναι δύο διακριτά πράγματα, άρα και η ελεύθερη βούληση είναι έξω από το υλικό μας σώμα [10].

5.1   Οι Υλιστικές Θέσεις

Κατά έναν απροσδόκητο τρόπο, οι ιδέες του Καρτέσιου ήταν η αφορμή, όχι για την επικράτησή τους, αλλά για τη διατύπωση αντίθετων κοσμοθεωριών, όπως αυτή του μονισμού ή υλισμού, σύμφωνα με τον οποίον δεν υπάρχει άυλη ψυχή, παρά μόνο υλικά αντικείμενα. Ο υλισμός, όμως, είχε ―ειδικά τους πρώτους αιώνες «ζωής» του― ένα σημαντικό ερώτημα να αντιμετωπίσει.

Πώς από την ύλη, η οποία ελέγχεται από τους αυστηρούς φυσικούς νόμους, μπορεί να προκύψει κάτι όπως η ελεύθερη βούληση; Πώς μπορεί, π.χ., το μέταλλο να αντισταθεί σε έναν ισχυρό μαγνήτη που το έλκει; Γίνεται να αφήσουμε μία πέτρα στο κενό και να μην πέσει στο έδαφος; Κατά συνέπεια, είναι δυνατόν η υλική μας ―υποτίθεται― βούληση να εναντιωθεί στους νόμους της φύσης που την κυβερνούν και, ως εκ τούτου, να χαρακτηριστεί ως ελεύθερη βούληση;

Για να απαντήσουν οι υλιστές σε αυτό το ερώτημα, αναγκάστηκαν να επαναπροσδιορίσουν με διάφορους τρόπους την έννοια της «ελεύθερης βούλησης», έτσι ώστε να ταιριάζει με τη θεωρία του υλισμού και να μπορεί να αντέξει μπροστά στα δύσκολα αυτά ερωτήματα [11]. Άλλοι πάλι φιλόσοφοι δέχτηκαν ουσιαστικά την απουσία της ελεύθερης βούλησης· παίρνοντας ώθηση και από το ρεύμα της εξελικτικής θεωρίας του Κάρολου Δαρβίνου [12], ισχυρίστηκαν ότι πρακτικά τα πάντα κατευθύνονται σε μία συγκεκριμένη κατεύθυνση· θέλουμε-δεν θέλουμε, με ή χωρίς τον Άνθρωπο.

5.2   Η Ανατροπή που Έφερε η Αρχή της Αβεβαιότητας

Η Φυσική όμως άλλαξε τον 20^ό αιώνα. Ο Γερμανός φυσικός Βέρνερ Χάιζενμπεργκ διατύπωσε την Αρχή της Αβεβαιότητας [13], σύμφωνα με την οποία ―με απλά λόγια― η συμπεριφορά των σωματίων από τα οποία χτίζεται η ύλη, δεν είναι δυνατόν όχι μόνο να προβλεφθεί, αλλά ακόμα και να παρατηρηθεί. Μπορούμε να πούμε ότι, κατά κάποιον τρόπο, όταν πάρουμε ένα πανίσχυρο μικροσκόπιο για να παρατηρήσουμε τα μόρια από τα οποία αποτελούμαστε, τότε αυτά θα παίξουν... κρυφτούλι και θα μας ξεγελάσουν όσον αφορά τη θέση στην οποία βρίσκονται και την ταχύτητα με την οποία κινούνται. Έτσι εξασφαλίζεται η αυτονομία της ύλης και οι νόμοι της Φυσικής δεν φαντάζουν πλέον και τόσο αυστηροί.

Η ύλη αφήνει λοιπόν περιθώρια ελεύθερης κίνησης/βούλησης και δεν διέπεται απαραίτητα από αυστηρούς φυσικούς νόμους. Οι υπολογιστές, όμως, που είναι υποκατηγορία της ύλης, δουλεύουν βάσει αυστηρά προκαθορισμένων μαθηματικών κανόνων και ―σύμφωνα και με όσα είπαμε στην προηγούμενη ενότητα― δεν αφήνουν περιθώρια ελευθερίας βουλήσεως.

6   Τεχνητή ή Ελεύθερη Βούληση;

Σε αυτό το σημείο, θα κάνουμε ένα άλμα, αντιπαραβάλλοντας τις απόψεις των επιστημόνων που παραθέσαμε παραπάνω, στις θέσεις της Εκκλησίας πάνω στο θέμα της σωτηρίας ή της απώλειάς μας. Δεν έχουμε σκοπό να προκαλέσουμε κάποια αντιπαράθεση, γιατί πιστεύουμε ότι η επιστήμη συμπληρώνει τη θρησκεία και το αντίστροφο [14]· στόχος μας είναι ο διάλογος και η αντικειμενική θεώρηση του θέματος.

Σύμφωνα λοιπόν με τους Πατέρες, η τελική κατάληξη της ζωής μας, η σωτηρία ή η απώλεια μας δεν είναι προκαθορισμένη από τον Δημιουργό. Ακόμα και στην αρχαία Εκκλησία, ο Ιουστίνος ο Μάρτυρας υποστηρίζει, περίπου το 150 μ.Χ. στην Α' Απολογία του [15], ότι η πορεία προς την τελείωση εξαρτάται από τη βούλησή μας. Ούτε η φθαρμένη ή διεφθαρμένη ιδιοσυγκρασία μας (θυμηθείτε τον ληστή που σταυρώθηκε μαζί με τον Χριστό [16]), ούτε το δύσκολο ίσως περιβάλλον στο οποίο κινούμαστε (θυμηθείτε πού ζούσε ο Λωτ [17]) είναι σε θέση να καταδυναστεύσουν την ανεξάρτητη βούλησή μας.

Τρεις αιώνες σχεδόν μετά την Απολογία του Ιουστίνου, έρχεται ο άγιος Γρηγόριος Νύσσης (περ. 335-394) και γράφει ολόκληρο βιβλίο Κατά Ειμαρμένης [18], σύμφωνα με το οποίο ούτε μοίρα υπάρχει για τον καθένα και την καθεμία από εμάς, ούτε «πεπρωμένο». Ο Δημιουργός και Θεός δεν μας προορίζει για κάτι, όμως μέσα στην πανσοφία του προγνωρίζει κάθε πράξη μας και το αν θα προκόψουμε πνευματικά ή όχι.⁴ Ούτε δούλους έφτιαξε που θα εκτελούν πιστά τις εντολές του, ούτε και «πνεύματα αντιλογίας» και «εχθρούς» για να περνά την ώρα του επιτιμώντας τους.

Σίγουρα κάποιος μπορεί να διαφωνήσει με αυτές τις θέσεις, ίσως εμμείνει στην άποψη ότι μπορούμε να φτιάξουμε ρομπότ με θέληση όπως η ανθρώπινη. Η δική μας άποψη είναι ότι αν ισχύει αυτό, τότε το όλο σκηνικό θυμίζει τους στίχους του Μίκη Θεοδωράκη [20]:

Η τροχιά σου ρυθμίζεται με κούρδισμα
Τη νύχτα κουρδίζεις, τη μέρα ξεκουρδίζεις
Υπόκλιση, χαμόγελο, φωνή, κραυγή, βλαστήμια
Όλα ρυθμισμένα απ' τον κατασκευαστή

7   Συμπεράσματα

Ο καθηγητής Χρίστος Παπαδημητρίου έχει πει το εξής: «Όποιος φοβάται ότι οι υπολογιστές θα μας εξουσιάσουν μια μέρα δεν παρακολουθεί όσα κάνουν αυτοί που μας εξουσιάζουν σήμερα» [5]. Σίγουρα η πολιτική συγκυρία ευνοεί αυτή τη θέση. Η αλήθεια είναι πάντως ότι το παραπάνω ρητό θυμίζει κάτι από την πρόταση: «από τότε που γνώρισα τα ζώα, σιχάθηκα τον άνθρωπο».

Απέναντι σε αυτή την απαξίωση του ανθρώπου και της φθαρμένης, αλλά όχι κατεστραμμένης φύσης του, δεν καταφεύγουμε αμέσως σε υποκατάστατα, αλλά οφείλουμε καταρχήν να θεραπεύσουμε τον εαυτό μας, ενεργοποιώντας την αυτόνομη θεόδοτη βούλησή μας.

Υποσημειώσεις

¹ Σημειώνεται, ωστόσο, ότι η πρόβλεψη αυτή βασίζεται (και) στον νόμο του Μουρ που ίσχυε για δεκαετίες και βάσει του οποίου οι ταχύτητες των επεξεργαστών αυξάνονται με γεωμετρική πρόοδο [6]. Αλλά αυτός ο «νόμος» παύει σιγά σιγά να υφίσταται, καθώς οι κατασκευαστές των επεξεργαστών βρίσκονται πια αντιμέτωποι με ανυπέρβλητα εμπόδια ψύξης τους και στρέφονται πλέον στην παράλληλη χρήση πολλών μικροεπεξεργαστών [7].

² Με προεξάρχοντα τον Πορτογάλο Αντόνιο Νταμάσιο, ένα βιβλίο του οποίου έχει μάλιστα μεταφραστεί και στα Ελληνικά και τιτλοφορείται με «νόημα» ως Το Λάθος του Καρτέσιου [8].

³ Ίσως ένας παράγοντας της συμπεριφοράς μας είναι και η «τύχη», αλλά δεν την αναφέρουμε ξεχωριστά γιατί μπορεί να περιέχεται στην «είσοδό» ή/και στο «πρόγραμμά» μας. Τόσο το χειρότερο βέβαια αν υπεύθυνη για τις πράξεις μας είναι η «τύχη».

⁴ Ωστόσο, στη Δυτική Θεολογία έχουν αναπτυχθεί δόγματα, όπως αυτό του απόλυτου προορισμού, σύμφωνα με το οποίο ο Θεός είναι εκείνος που επιλέγει αυτούς που θα σωθούν [19]. Προφανώς αυτό το δόγμα δεν είναι αποδεκτό στην Ορθοδοξία.

Αναφορές

[1] Stuart Russell and Peter Norvig: Τεχνητή Νοημοσύνη: Μία Σύγχρονη Προσέγγιση. Κλειδάριθμος, 2^η έκδοση, 2005.

[2] Alan M. Turing: Computing machinery and intelligence. Mind, 59(236):433-460, 1950.

[3] Joseph Weizenbaum: Eliza―a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1):36-45, 1966.

[4] David Goodman and Raymond Keene: Man Versus Machine: Kasparov Versus Deep Blue. H3, Cambridge, Massachusetts, 1997.

[5] Χρίστος Χ. Παπαδημητρίου: Ισόβια στους Χάκερ; Απόψεις για το Ίντερνετ, την Επιστήμη και Όλα τα Υπόλοιπα, σελ. 68-72. Εκδόσεις Καστανιώτη, 2004.

[6] Gordon E. Moore: Cramming more components onto integrated circuits. Electronics, 38(8):114-117, 1965.

[7] Joseph M. Hellerstein: Programming a parallel future. Technical Report UCB/EECS-2008-144, EECS Department, University of California, Berkeley, 2008.

[8] António R. Damásio: Το Λάθος του Καρτέσιου: Συγκίνηση, Λογική & Ανθρώπινος Εγκέφαλος. Σύναλμα, 2000.

[9] António R. Damásio: The Feeling of What Happens: Body and Emotion in the Making of Consciousness. Harcourt, New York, 1999.

[10] René Descartes: Στοχασμοί περί της Πρώτης Φιλοσοφίας (Meditationes de Prima Philosophia). Εκκρεμές, 2003.

[11] Thomas Hobbes: Leviathan or The Matter, Forme and Power of a Common Wealth Ecclesiasticall and Civil. Andrew Crooke, London, 1651.

[12] Charles Darwin: On the Origin of Species by Means of Natural Selection, or the Preservation of Favoured Races in the Struggle for Life. John Murray, London, 1859.

[13] Werner Heisenberg: Über den anschaulichen inhalt der quantentheoretischen kinematik und mechanik. Zeitschrift für Physik, 43(3-4):172-198, 1927.

[14] Η Γαλλική Ακαδημία των Επιστημών περί Σχέσεως Θρησκείας και Επιστήμης, μετάφραση Κωνσταντίνου Μεταλληνού, σελ. 83, 1932.

[15] Ιουστίνος: Απολογία Α', κεφάλαιο 43, στίχος 1. Patrologia Graeca 6, 327-440.

[16] Κατά Λουκάν Ευαγγέλιο, κεφάλαιο 23, στίχοι 39-43.

[17] Γένεσις, κεφάλαιο 19.

[18] Γρηγόριος επίσκοπος Νύσσης: Κατά Ειμαρμένης. Patrologia Graeca 45, 145-174.

[19] Iohanne Calvino: Institutio Christianæ Religionis, book 3, chapter xxi, 5. Oliua Roberti Stephani, Genev, 1559.

[20] Μίκης Θεοδωράκης: Ο ήλιος κι ο χρόνος. Στίχοι από το ομώνυμο τραγούδι του δίσκου Με την Πλάτη στον Τοίχο, σε σύνθεση και εκτέλεση Διονύση Τσακνή. Ακτή, 1999. 

αντιαιρετικός 

 

http://omadaneoneforiakon.blogspot.com/2013/05/blog-post_4520.html#more