Número 052 2016
Mecanismos de desarrollo moral [Rottman, J. y Young, L.]. En: Moral Brain. A multidisciplinary perspective
Autor: Nieto Martínez, IsabelPalabras clave
Moral, Desarrollo moral, Teoria del dominio social.
Libro Moral Brain. A multidisciplinary perspective. (2015) Edited by Jean Decety and Thalia Wheatley. The MIT Press. Cambridge, Massachusetts London England
Capítulo 8. Mecanisms of moral development. Autores: Joshua Rottman y Liane Young. En: III The development of morality.
Mecanismos de desarrollo moral
Los autores comienzan este artículo afirmando que la evaluación moral es un aspecto fundamental de la psicología humana y preguntándose cómo se desarrolla esta competencia.
Nos explican que esta cuestión se ha abordado desde marcos teóricos cognitivos y del desarrollo (Killen y Smetana, en prensa; Kohlberg, 1971; Piaget, 1932) y en general la respuesta ha sido que el desarrollo moral es un proceso constructivista: las criaturas desarrollan la habilidad de hacer distinciones morales cada vez más sofisticadas razonando activamente acerca de sus experiencias sociales; estas propuestas están recogidas en la “teoría del dominio social” (Smetana, 1989, 2006; Turiel, 1986).
Además de esta teoría los autores proponen el punto de vista de Haidt (2012) que entiende la mente moral como un conjunto de “papilas gustativas”(taste buds), que consisten en receptores que responden innatamente a tipos particulares de contenidos, estos receptores se pueden ajustar en un rango finito a los factores culturales. Así, el desarrollo moral puede ser entendido examinando los estados iniciales y los aportes sociales externos, más bien que enfocándose primariamente en el razonamiento de los infantes acerca de sus experiencias sociales.
Los autores explican que en este capítulo presentan evidencias desde la psicología del desarrollo y otras ciencias cognitivas para evaluar afirmaciones acerca de los mecanismos del desarrollo moral. En particular, revisan los procesos constructivistas del desarrollo moral que se presentan en la teoría del dominio social. Revisarán los hallazgos de las investigaciones que apoyan este modelo o cambian. Posteriormente argumentaran que el desarrollo moral puede ser explicado mejor por una teoría que enfoque los principios innatos que son modificados a través de la comunicación social, que es lo que nombran como “teoría de las papilas gustativas”.
La “teoría del dominio social” del desarrollo moral
Estado inicial
Rottman y Liane afirman que los teóricos del dominio social asignan poco poder explicativo a lo primariamente innato y prestan mínima atención al estado inicial (Killen, Smetana, en prensa).
En primer lugar citan a Killen y Rizzo, (2014) para afirmar que los bebés están predispuestos a ser sociales, están interesados en los otros y motivados para interactuar con ellos.
En segundo lugar afirman que en el comienzo del segundo año de la vida, quizás con la adquisición de la conciencia de sí mismos, los niños comienzan a expresar preocupación empática por la angustia y el dolor de los demás y participan en comportamientos reparadores para aliviar la angustia, independientemente de si ellos lo han causado o tan solo observan el malestar (Zahn – Waxler y cols, 1992).
En tercer lugar sostienen que los infantes usan sus creencias acerca de la naturaleza de la realidad para adscribir significados a los eventos sociales con los que se encuentran (Turiel, Hildebandt y Wainryb, 1991; Turiel, Killen y Helwig, 1987; Wainryb, 1991).
Los procesos constructivistas como motor del desarrollo moral
Según los autores, la teoría del dominio social propone que los infantes construyen los conceptos morales a través de las interacciones sociales que conllevan infracciones al bienestar o a la justicia (Turiel, 1983). A partir del descubrimiento del perjuicio y malestar emocional que causan las acciones dañinas, tanto si es a ellos mismos como a los demás, los infantes les asignan un estatus moral a estas acciones.
La empatía y la toma de perspectiva también facilitan la competencia moral, típica y espontáneamente desarrollada cuando los infantes toman la posición de víctimas, permitiéndoles sentir el dolor de la víctima cuando es dañada (Turiel, 1983). Esta respuesta empática también lleva tanto a las criaturas como a los adultos a reprender a los perpetradores haciéndoles responder a las consecuencias de sus acciones (Nucci y Turiel, 1983). Los infantes pueden construir sus concepciones morales tanto de sus reacciones empáticas, como de las amonestaciones que siguen a dichas acciones.
Siguiendo esta teoría, los autores señalan que las criaturas usan sus propias observaciones del sufrimiento causado por acciones dañinas para construir una comprensión abstracta de la moralidad, y también son capaces de utilizar su capacidad de observación para conceptualizar moralmente situaciones extrañas; citan una investigación de Zelazo, Helwig y Lau, (1996) para explicarlo, se les muestra una foto de una acción inocua, como acariciar a un animal raro percibiendo que esto le causa dolor a dicho animal, los infantes lo catalogan como una acción inmoral; sin embargo si se les muestra una acción como golpear a un animal raro percibiendo que eso le provoca placer, la acción la valoran como moralmente permisible.
Otro punto que abordan Rottman y Young sobre la teoría del dominio social es la capacidad de los infantes de construir no solo conceptos morales, sino también convenciones sociales (usar un traje negro en un funeral), la construcción de los conceptos convencionales la realizan a través de sistemas institucionalizados, como son la familia, la escuela y las regulaciones arbitrarias, así como las expectativas del consenso del grupo social al que pertenezcan (Turiel, 1983, 2008).
Continúan afirmando que hay muchas experiencias cualitativamente diferentes asociadas con las transgresiones morales y convencionales. Estas diferencias cualitativas están presentes incluso en las criaturas pequeña que están en proceso de adquisición de capacidades para distinguir entre esos dominios (Smetana. 1989). De acuerdo con estos teóricos, los infantes de 3 años extraen activamente características regulares de sus interacciones sociales heterogéneas para construir distinciones en sus propios principios, entre la transgresión moral y otras clases de transgresiones sociales (Smetana, 2006; Turiel, 1983).
Algunos desafíos en la teoría del dominio social
Los autores afirman que, si bien, esta teoría ha contribuido a un progreso significativo en la comprensión del desarrollo moral (Smetana, 2006), recientemente ha tenido críticas significativas desde diferentes frentes, revisaran a continuación algunas de ellas, para proponer una teoría alternativa del desarrollo moral.
La distinción entre los dominios moral y convencional no está clara
Los autores comienzan señalando que debido a los principios que mantiene la teoría del dominio social acerca de que los diferentes dominios sociales están basados en el razonamiento y en experiencias universalmente extendidas, se concluiría que tanto las concepciones de moralidad como las convencionales deberían ser robustas e invariantes; sin embargo, las investigaciones crosculturales demuestran que en culturas no occidentales ésta diferencia no se da tan significativamente y en algunas es inexistente (Shweder, Mahapatra y Miller, 1987; Turiel y cols, 1987; Nisan, 1987; Haidt, Koller y Dias, 1993).
Algunas investigaciones han desafiado la idea, mucho más radicalmente, afirmando que la distinción entre los dominios moral y convencional está psicológicamente falto de significado aún en las culturas occidentales; las evidencias sugieren que la diferencia entre estos dominios se rompe en casos que no han sido escogidos como ejemplos morales o convencionales, por ejemplo: azotar a marineros descuidados era una acción permitida en otros tiempos, los castigos corporales a los estudiantes en los colegios donde están permitidos, muestran que algunas acciones dañinas no poseen las propiedades “típicas” de estar equivocadas independientemente de los factores contextuales, por ejemplo el tiempo histórico o los dictados de la autoridad (Kelly y cols., 2007). De la misma manera, acciones dañinas que se interpretan con algún beneficio social, no se reconocen como moralmente reprobables.
Rottman y Young afirman que hasta los teóricos de ésta corriente reconocen que las fronteras entre los dominios morales y convencionales están borrosas.
Otro punto que señalan es el de que el constructivismo afirmado por la teoría del dominio social no da cuenta de la separación entre juicios y justificaciones, sobre preocupaciones morales acerca del daño y la justicia, sobre los conceptos morales innatos en los bebés o el rol de las intenciones en los juicios morales.
La cognición moral no es siempre consciente, esforzada y reflexiva
Los autores sostienen que en los años recientes se ha puesto en cuestión el paradigma de un ideal de racionalidad juiciosa (Kohlberg, 1971; Turiel, 1983), éste ha sido refutado por los hallazgos de que la moral, a menudo, no se basa en principios conscientemente razonados. Algunas veces las personas son incapaces de justificar adecuadamente sus juicios morales, lo que sugiere que ciertas evaluaciones morales resultan de intuiciones viscerales (Haidt, 2001). Además, las creencias morales están a menudo motivadas por bases ideológicas inconscientes (Uhlmann y cols., 2009). Los autores también afirman que ciertos juicios morales utilizan regiones del cerebro asociadas con procesamientos emocionales, más que cogniciones controladas (Decety y cols., 2012; Greene y Haidt, 2002).
Como se ha realizado poca investigación sobre estos supuestos con infantes, los autores afirman que es necesaria una mayor evidencia empírica en el desarrollo de la moral para determinar si los aspectos de la cognición moral son naturalmente emocionales y automáticos en la infancia, o bien se cargan afectivamente y se automatizan durante el desarrollo.
La experiencia personal no puede explicar los juicios morales de los actos sin víctimas
Los autores afirman que los teóricos del dominio social han demostrado que los niños pueden aprender normas perjudiciales atendiendo a las consecuencias negativas de ciertas interacciones sociales. Toman el ejemplo de la homosexualidad, y los tabúes religiosos para afirmar que no existen reacciones obvias de angustia que puedan usarse para inferir que la homosexualidad, así como otros tabúes, son inmorales, por lo tanto ese juicio moral no puede venir determinado por su propia experiencia.
Por lo tanto concluyen que los juicios morales de los actos que no tienen víctimas deben ser asociados a violaciones morales a través del aprendizaje sociocultural (Nichols, 2004; Rottman y Kelemen, 2012; Rozin, 1999).
La teoría de “las papilas gustativas” del desarrollo moral
Según los autores, esta teoría propone que los bebés nacen con ciertas intuiciones (metafóricamente receptores del gusto) que establecen las barreras para un sentido moral maduro; estas intuiciones están moduladas por los aportes culturales, que ajustan la sensibilidad de los receptores y el rango de contenido hacia el que va dirigida la respuesta. Esto es por lo tanto una forma de nativismo que permite un grado grande y finito de variabilidad cultural, que se provee con los aportes del medio, incluyendo la comunicación social y no requiere necesariamente de inferencias reflexivas acerca de las interacciones socialmente experimentadas (Haidt, 2012; Hauser, 2006; Mikhail, 2007).
Estado inicial
Rottman y Young afirman que la investigación en psicología social y neurociencia ha demostrado que muchos de los juicios morales están enraizados en intuiciones evolucionadas, inaccesibles conscientemente, y automáticas (Greene, 2013; Haidt, 2012). Estos hallazgos sugieren que algunos aspectos fundamentales de la cognición moral no estan construidos conscientemente a través de la experiencia, sino que se ha encontrado que los conceptos morales emergen en ausencia de experiencias relevantes y son incluso detectables en bebés prelingüisticos (Baillargeon y col, 2014; Bloom, 2013; Hamlin lo trabaja en este libro).
Según los autores hay otros aspectos de la competencia moral que denotan que son innatos, debido a la precocidad con que aparecen durante el desarrollo, citan a Greene (2013) en una investigación sobre el “dilema del vagón”, los sujetos tienen que escoger entre un daño que produciría la muerte varias personas accidentalmente, o un daño perpetrado por una persona que daría como resultado la muerte de una sola, o activar un mecanismo que mataría una sola persona. Los datos muestran que los adultos opinan que se debería activar el mecanismo porque se salvarían más personas, para los adultos la noción del daño físico actuado es moralmente más reprobable que el daño por un efecto colateral, aún así las explicaciones que dan para este razonamiento moral no se articulan coherentemente en cuanto a la defensa de su juicio moral. Los infantes de 3 a 5 años dan unas respuestas parecidas cuando se les enfrenta a dilemas similares adaptados a su edad, los autores concluyen que puede ser porque exista una estructura generativa computacional que es operativa e intuitiva desde el comienzo de la vida (Dwyer, 2009; Mikhail, 2007).
Otro aspecto que señalan los autores a favor de ciertas condiciones innatas con respecto a la cognición moral es la capacidad de los niños de entre 3 y 5 años de detectar el quebrantamiento de reglas sociales, aunque sean muy arbitrarias. En general, la revisión de la evidencia en estas investigaciones sugieren que las intuiciones entre lo que es correcto o incorrecto, o al menos lo que está bien o está mal, han evolucionado de tal manera que emergen temprano en el desarrollo y continúan jugando un papel sustancial en los juicios morales de los adultos.
Los autores finalizan este apartado afirmando que aunque hay mucha evidencia de cierto fundamento innato en la moral, es difícil determinar cómo la competencia moral puede ser totalmente construida desde los inicios sensitivos y motivacionales, los contenidos independientes, y el dominio general de los procesos de aprendizaje.
Aprendizaje sociocultural como motor del cambio moral y la diferenciación
De acuerdo con la “teoría de las papilas gustativas”, los autores afirman que las intuiciones innatas constituyen un fundamento inicial para la psicología moral, de acuerdo a esta teoría existen cierto tipo de normas, especialmente las que tienen resonancia afectiva, que se adquieren más rápidamente que otras (Nichols, 2004), o las que tienen que ver con daño, equidad, lealtad, autoridad o pureza (Haidt, 2012). Esta teoría considera que la adquisición de información cultural a través del aprendizaje social es el principal proceso a través del que se elabora la maduración en la competencia moral. De alguna manera estos mecanismos de cambio sociocultural son consistentes con la teoría del dominio social.
Los autores continúan sosteniendo que aunque la teoría del dominio social y la teoría de las papilas gustativas confluyen en asignar importancia a la comunicación social, las dos teorías difieren en el énfasis que le dan a la interpretación, evaluación y acomodación a los mensajes que reciben los infantes, en particular la teoría de las papilas gustativas deja lugar a la posibilidad de que las creencias morales de los infantes se conformen a través de procesos automáticos y potencialmente inconscientes (Haidt, 2001).
Los autores nombran las investigaciones transculturales de House y cols. (2013) y de Shweder y cols. (1987), sobre la influencia cultural del desarrollo moral para concluir que existe evidencia empírica que avala que ciertos valores se refuerzan o se atenúan a través de los diferentes patrones del testimonio cultural, como sostiene la teoría de las papilas gustativas.
Otra de las diferencias entre las teorías sería, según los autores, que la evidencia experimental demuestra que no hace falta que los infantes sufran las consecuencias negativas de una acción para formar la creencia de que está mal, simplemente la pueden formar, oyendo la información sin ver las consecuencias malas (Smetana, 1985; Zelazo y cols. 1996; Harris, 2012).
En cuanto a la influencia de la comunicación en el desarrollo y modulación de los criterios morales, los autores sostienen que dependen de qué tipo de normas se comunican, y si éstas son comunicadas a través de relatos emocionales y la exposición de ejemplos morales (Haidt y Joseph, 2007), también es importante la comunicación de las normas de forma explícita (Nichols, 2004).
Los autores finalizan este apartado afirmando que se necesita más investigaciones par determinar que clase de estímulos culturales son más influyentes y si esto produce cambios durante el desarrollo. Continúan diciendo que la evidencia muestra que el aprendizaje sociocultural es responsable de elementos importantes de la competencia moral y especialmente de la diversidad de dominios morales. Por lo tanto, los adultos no solo tienen un rol facilitador en el desarrollo moral, sino que son responsables en como organizan los infantes sus predisposiciones morales iniciales y cómo conforman sus creencias morales.
Otros mecanismos del desarrollo: el rol de las intenciones
Los autores comienzan afirmando que de acuerdo a la teoría de las papilas gustativas, el cambio conceptual en el dominio moral no necesita realizarse a través de los esfuerzos racionales de los infantes. Sostienen que el desarrollo moral podría involucrar una creciente y compleja integración de elementos tanto morales como no morales, estos procesos de integración se han demostrado fuertemente con la atribución de estados mentales (Cushman y Young, 2011; Decety y cols., 2012; Young y Saxe, 2008).
La atribución de intenciones es un elemento crucial en los juicios morales maduros, a nivel cerebral se distinguen las respuestas neurales que dan los sujetos frente al daño intencional y el accidental, esta respuesta neuronal es automática, se registra en menos de una décima de segundo desde la percepción del estímulo, demostrando que el adulto integra inmediata y automáticamente la información de las intenciones de los juicios morales basados en el daño ( Young y Saxe, 2009; Koster-Hale y cols. 2013, Decety y Cacioppo, 2012).
La integración de la información sobre el estado mental en los juicios morales marca un hito en el desarrollo de la competencia moral de los infantes, citan a Piaget (1932) para afirmar que los jóvenes infantes enfocan más los resultados que las intenciones, mientras que cuando van creciendo se fijan más en las intenciones.
Los autores señalan que aunque los bebés tienen cierta capacidad de percibir intenciones (Hamlin), la integración de las intenciones en las evaluaciones morales se da mucho más tarde en la infancia, y ocurre con más fuerza sobre unas normas que sobre otras, por ejemplo normas sobre la pureza son mucho más resistentes a las consideraciones de intencionalidad que las que tienen que ver con el daño (Chakroff y cols. 2013; Russell y Giner – Sorolla, 2011; Young y Saxe, 2011).
Conclusiones
Según los autores en este artículo han examinado la naturaleza de los mecanismos que soportan el desarrollo de la moral, la evidencia empírica demuestra que algunos pueden ser explicados desde la teoría del dominio social; sin embargo, los aspectos que tienen que ver con las intuiciones innatas en combinación con el aprendizaje sociocultural se explican mejor con la teoría de las papilas gustativas. Para Rottman y Young hay campo para que se asimilen las dos teorías.
Afirman que se necesita más investigación en los procesos de crecimiento psicológico de la moral, y finalmente sostienen que la investigación y el estudio de cómo emerge la moral en los infantes ayudarán a descubrir la arquitectura del cerebro moral.
Bibliografía
Alicke, M. D. (2000). Culpable control and the psychology of blame. Psychological Bulletin, 126 (4), 556 – 574).
Baillargeon, R., Scott, R. M., He, Z., Sloane, S., Setoh, P., Jin, K., et al. (2014). Psychcological and sociomoral reasoning in infancy. In E. Borgida & J. Bargh (Ed s.), APA handbook of personality and social psychology , Vol. 1: Attitudes and social cognition (pp. 79-150) . Washington, DC: APA.
Bloom, P. (2013). Just babies: The origins of good and evil. New York: Crown .
Chakroff, A., Dungan, J., & Young, L. (2013). Harming ourselves and defiling others: What determines a moral domain? PLoS ONE, 8(9), e74434.
Cummins, D. D. (1996). Evidence of deontic reasoning in 3- and 4-year-old children .Memory & Cognition, 24(6), 823-829.
Cushman, F., Sheketoff, R., Wharton, S., & Carey, S. (2013). The development intent-based moral judgment. Cognition, 127(1), 6-21.
Cushman, F., & Young, L. (2011). Patterns of moral judgment derive from non moral psychological representations. Cognitive Science, 35(6), 1052-1075.
Cushman, F., Young, L., & Hauser, M. (2006). The role of conscious reasoning and intuition in moral judgment: Testing three principles of harm. Psychological Science, 17(12), 1082-1089.
Decety, J., & Cacioppo, S. (2012). The speed of morality: A highdensity electrical neuroimaging study. Joumal of Neurophys iology, 108(11), 3068-3072 .
Decety, J., Micha lska, K. J., & Kinzler, K. D. (2012). The contribution of emotion and cognition to moral sensitivity: A neurodevelopmental study. Cerebral Cortex, 22(I), 209-220.
Dwyer, S. (2009). Moral dumbfounding and the linguistic analogy: Methodological implications for the study of moral judgment. Mind & Language, 24(3), 274-296.
Edwards, C. P. (1987). Culture and the construction of moral values: A comparative ethnography of moral encounters in two cultural settings. In J . Kagan & S. Lamb (Eds.), The emergence of morality in young children (pp. 123-151). Chicago: University of Chicago Press.
Geraci, A., & Surian, L. (2011). The developmental roots of fairness: Infants' reactions to equal and unequal distributions of resources. Developmental Science, 14(5), 1012-1020.
Graham, J., Haidt, J., & Nosek, B. A. (2009). Liberals and conservatives rely on different sets of moral foundations. Journal of Personality and Social Psychology, 96(5), 1029-1046.
Greene, ]. D. (2013). Moral tribes: Emotion, reason, and the gap between us and them. New York: Penguin.
Greene, J., & Haidt, ]. (2002). How (and where) does moral judgment work? Trends in Cognitive Sciences, 6(12), 517-523.
Grusec, ]. E., & Goodnow, ]. ]. (1994). Impact of parental discipline methods on the child's internalization of values: A reconceptualization of current points of view. Developmental Psychology, 30(1), 4-19.
Haidt, ]. (2001). The emotional dog and its rational tail: A social intuitionist approach to moral judgment. Psychological Review, 108(4), 814-834.
Haidt, J. (2012). The righteous mind: Whygood people are divided by politic s and religion. New York: Pantheon .
Haidt, ]., & Joseph, C. (2007). The moral mind: How five sets of innate intuitions guide the development of many culture-specific virtues, and perhaps even modules. In P. Carruthers, S. Laurence, & S. Stich (Eds.), The innate mind, Vol. 3: Foundations and the future (pp. 367-391). New York: Oxford University Press.
Haidt, ]., Koller, S. H., & Dias, M. G. (1993). Affect, culture, and morality, or is it wrong to eat your dog? Journal of Personality and Social Psychology, 65(4), 613-628.
Hall, L., Johansson, P., & Strandberg, T. (2012). Lifting the veil of morality: Choice blindness and attitude reversals on a self-transforming survey. PLoS ONE, 7(9), e45457.
Hamlin, J. K. (2013a). Failed attempts to help and harm: Intention versus outcome in preverbal infants' social evaluations. Cognition, 128, 451-474.
Hamlin, ]. K. (2013b). Moral judgment and action in preverbal infants and toddlers: Evidence for an innate moral core. Current Directions in Psychological Science, 22(3), 186-193.
Hamlin, ]. K., Wynn, K., & Bloom, P. (2007). Social evaluation by preverbal infants. Nature, 450, 557-559.
Harris, P. L. (2012). Tnisting what you're told: How children learn from others. Cam bridge, MA: Harvard University Press.
Harris, P. L., & Nunez, M. (1996). Understanding of permission rules by preschool children. Child Development, 67(4), 1572-1591.
Hauser, M. D. (2006). Moral minds: The nature of right and wrong. New York: Harper.
Hauser, M., Cushman, F., Young, L., Jin, R. K., & Mikhail, J. (2007). A dissociation between moral judgments and justifications. Mind & Language, 22(1), 1-21.
Helwig, C. C., Hildebrandt, C., & Turiel, E. (1995). Children's judgments about psychological harm in social context. Child Development, 66(6), 1680-1693.
House, B. R., Silk, J. B., Henrich, ]., Barrett, H. C., Scelza, B. A., Boyette, A. H., et al. (2013). Ontogeny of prosocial behavior across diverse societies. Proceedings of the National Academy of Sciences USA, 110(36), 14586-14591.
Hussar, K. M., & Harris, P. L. (2010). Children who choose not to eat meat: A study of early moral decision-making. Social Development, 19(3), 627-641.
Jensen, L. A. (2008). Through two lenses: A cultural-developmental approach to moral psychology. Developmental Review, 28(3), 289-315.
Kelly, D., Stich, S., Haley, K. ]., Eng, S. J., & Fessler, D. M. T. (2007). Harm, affect, and the moral/conventional distinction . Mind & Language, 22(2), 117-131.
Killen, M., Mulvey, K. L., Richardson, C., Jampol, N., & Woodward, A. (2011). The accidental transgressor: Morally-relevant theory of mind. Cognition, 119(2), 197-215.
Killen, M., & Rizzo, M. T. (2014). Morality, intentionality and intergroup attitudes. Behaviour, 151, 337-359.
Killen, M., & Smetana, ]. (in press). Morality: Origins and development. In M. Lamb & C. Garcia-Coll (Eds.), Handbook of child psychology (Vol. 3). Social and emotional development (7th ed.). New York: Wiley-Blackwell.
Knobe, ]. (2003). Intentional action in folk psychology: An experimental investigation. Philosophical Psychology, 16(2), 309-324.
Kohlberg, L. (1971). From is to ought: How to commit the naturalistic fallacy and get away with it in the study of moral development. In T. Mischel (Ed.), Cognitive development and epistemology (pp. 151-235) . New York: Academic Press.
Koster-Hale, J., Saxe, R., Dungan, J., & Young, L. (2013). Decoding moral judgment s from neural representations of intentions. Proceedings of the National Academy of Sciences USA, 110(14), 5648-5653.
Kuhlmeier, V., Wynn, K., & Bloom, P. (2003). Attributions of dispositional states by 12-months-old . Psychological Science, 14(5), 402-408.
Leslie, A. M., Knobe, J., & Cohen, A. (2006). Acting intentionally and the side-effect eff ect: Theory of mind and moral judgment. Psychological Science, 17, 421-427.
Liu, B. S., & Ditto, P. H. (2012). What dilemma? Moral evaluation shapes factual belief. Social Psycilological and Personality Science, 4(3), 316-323.
Mikhail, J. (2007). Universal moral grammar: Theory, evidence and the future. Trends in Cognitive Sciences, 11(4), 143-152.
Nichols, S. (2004). Sentimental rules: On the natural foundations of moral judgment. New York: Oxford University Press.
Nisan, M. (1987). Moral norms and social conventions: A cross-cultural comparison. Developmental Psychology, 23( 5), 719-725.
Nucci, L. P., & Turiel, E. (1978). Social interactions and the development of social concepts in preschool children. Child Development, 49, 400-407.
Nucci, L., & Turiel, E. (1993). God's word, religious rules, and their relation to Christian and Jewish children's concepts of morality. Child Development, 64, 1475-1491.
Pellizzoni, S., Siegal, M., & Surian, L. (2010). The contact principle and utilitarian moral judgments in young children. Developmental Science, 13(2), 265-270.
Piaget, J . (1932). The moral judgment of tlze child (M. Gabain, Trans.). New York: Harcourt.
Piazza, J., Sousa, P., & Holbrook, C. (2013). Authority dependence and judgments of utilitarian harm. Cognition, 128(3), 261-270.
Premack, D., & Premack, A. J . (1997). Infants attribute value to the goal-directed actions of self-propelled objects. Journal of Cognitive Neuroscience, 9, 848-856.
Rhodes, M., & Chalik, L. (2013). Social categories as markers of intrinsic interpersonal obligations. Psychological Science, 24(6), 999-1006.
Rottman, ]., & Kelemen , D. (2012). Aliens behaving badly: Children's acquisition of novel purity-based morals. Cognition, 124(3), 356-360.
Rozin, P. (1999). The process of moralization. Psychological Science, 10(3), 218-221.
Russell, P. S., & Giner-Sorolla, R. (2011). Moral anger, but not moral disgust, responds to intentionality. Emotion, 11(2), 233-240.
Saxe, R., & Kanwisher, N . (2003). People thinking about thinking people: The role of the temporo-parietal junction in "theory of mind." NeuroImage, 19(4), 1835-1842.
Schmidt, M. F., & Sommerville, J. A. (2011). Fairness expectations and altruistic sharing in 15-month-old human infants. PLoS ONE, 6(10), e23223.
Schnall, S., Haidt, J ., Clore, G. L., & Jordan, A. H. (2008). Disgust as embodied moral judgment. Personality and Social Psychology Bulletin, 34(8), 1096-1109.
Shweder, R. A., Mahapatra, M., & Miller, ]. G. (1987). Culture and moral develop ment. In ]. Kagan & S. La mb (Eds.), The emergence of morality in young children (pp. 1-83). Chicago: University of Chicago Press.
Sloane, S., Baillargeon, R., & Premack, D. (2012). Do infants have a sense of fairness? Psychological Science, 23( 2), 196-204.
Smetana, J. G. (1985). Preschool children's conceptions of transgressions: Effects of varying moral and conventional domain-related attributes. Developmental Psychology, 21( 1), 18-29.
Smetana, J. G. (1989). Toddlers' social interactions in the context of moral and con ventional transgressions in the home. Developmental Psychology, 25(4), 499-508.
Smetana, J. G. (1999). The role of parents in moral development: A social domain analysis. Joumal of Moral Education, 28( 3), 311-321.
Smetana, J. G. (2006). Social-cognitive domain theory: Consistencies and variations in children's moral and social judgments. In M. Killen & J. Smetana (Eds.), Handbook of moral development (pp. 119-153). Mahwah, NJ: Lawrence Erlbaum Associates.
Smetana, J. G., & Braeges, J . L. (1990). The development of toddlers' moral and con ventional judgments. Merrill-Palmer Quarterly, 36(3), 329-346.
Smetana, J. G., Rote, W. M., Jambon, M., Tasopoulos-Chan , M., Villalobos, M., & Comer, J. (2012). Developmental changes and individual differences in young children's moral judgments. Child Development, 83( 2), 683-696.
Sripada, C. S., & Stich, S. (2006). A framework for the psychology of norms. In P. Carruthers, S. Laurence, & S. Stich (Eds.), The innate mind, Vol. 2: Culture and cognition (pp. 280-301). New York: Oxford University Press.
Tisak, M. S., & Turiel, E. (1988). Variation in seriousness of transgressions and chil dren's moral and conventional concepts. Developmental Psychology, 24( 3), 352-357.
Tooby, J., Cosmides, L., & Barrett, H. C. (2005). Resolving the debate on innate ideas: Learnability constraints and the evolved interpenetration of motivational and conceptual functions. In P. Carruthers, S. Laurence, & S. Stich (Eds.), The innate mind, Vol. 1: Structure and contents (pp. 305-337). New York: Oxford University Press.
Turiel, E. (1983). Tlze development of social knowledge: Morality and convention . Cambridge : Cambridge University Press.
Turiel, E. (2008). Thoughts about actions in social domains: Morality, social conventions, and social interactions. Cognitive Development, 23, 136-154.
Turiel, E., Hildebrandt, C., & Wainryb, C. (1991). Judging social issues: Difficulties, inconsistencies, and consistencies. Monographs of the Society for Research in Child Development, 56(2), 1-103.
Uhlmann, E. L., Pizarro, D. A., Tannenbaum , D., & Ditto, P. H. (2009). The motivated use of moral principles. Judgment and Decision Making, 4(6), 476-49
Valdesolo, P., & DeSteno, D. (2006). Manipulations of emotional context shape moral judgment. Psychological Science, 11(6), 476-477.
Wainryb, C. (1991). Understanding differences in moral judgments : The role of informational assumptions. Child Development, 62, 840-851.
Wellman, H. M., Cross, D., & Watson, J. (2001). Meta -analysis of theory-of-mind development: The truth about false belief. Child Development, 72(3), 655-684.
Wheatley, T., & Haidt, J. (2005). Hypnotic disgust makes moral judgments more severe. Psychological Science, 16(10), 780-784.
Young, L., Camprodon, J. A., Hauser, M., Pascual -Leone, A., & Saxe, R. (2010). Disruption of the right temporoparietal junction with transcranial magnetic stimulation reduces the role of beliefs in moral judgments. Proceedings of the National Academy of Sciences USA, 107(15), 6753-6758 .
Young, L., Cushman, F., Hauser, M., & Saxe, R. (2007). The neural basis of the interaction between theory of mind and moral judgment. Proceedings of the National Academy of Sciences USA, 104(20), 8235-8240.
Young, L., & Saxe, R. (2008). The neural basis of belief encoding and integration in moral judgment. Neurolmage, 40(4), 1912-1920.
Young, L., & Saxe, R. (2009). Innocent intentions : A correlation between forgiveness for accidental harm and neural activity. Neuropsychologia, 41(10), 2065-2072.
Young, L., & Saxe, R . (2011). When ignorance is no excuse: Different roles for intent across moral domains. Cognition, 120(2), 202-214.
Young, L., & Tsoi, L. (2013) . When mental states matter, when they don't, and what that means for morality. Social and Personality Psychology Compass, 7(8), 585-604.
Zahn-Waxler, C., Radke-Yarrow, M., & King, R. A. (1979). Child rearing and chil dren's prosocial initiations toward victims of distress. Child Development, 50, 319-330.
Zahn-Waxler, C., Radke-Yarrow, M., Wagner, E., & Chapman, M. (1992). Development of concern for others. Developmental Psychology, 28(1), 126-136.
Zelazo, P. D., Helwig, C. C., & Lau, A . (1996). Intention, act, and outcome in behavioral prediction and moral judgment. Child Development, 67, 2478-2492.