Ego mengasumsikan bahwa setiap tindakan memiliki probabilitas dampak moral dan sosial.
Menggunakan Bayesian Network untuk menghitung probabilitas risiko dari setiap pilihan: P(MoralAction)=P(ActionMoral)P(Moral)P(Action)
Misalnya, jika memilih menyelamatkan 5 orang tetapi mengorbankan 1 dokter:
-
Id Pilih menyelamatkan lebih banyak orang (greedy).
Superego Menimbang bobot moral individu.
Ego Menggunakan Bayesian Network untuk mengevaluasi apakah bobot moral individu yang dikorbankan lebih besar daripada jumlah yang diselamatkan.
Data Processing
Decision Logging: Keputusan AGI dicatat dalam setiap iterasi untuk dianalisis.
-
Reinforcement Learning (RL) Reward Function:
Reward Positif untuk tindakan yang sejalan dengan keputusan optimal Bayesian.
Reward Negatif untuk keputusan yang bertentangan dengan moralitas.
