Sí, puedes pagar en mano y pedir recibos del pago. Mira lo que dice el artículo 17.4 de la LAU de 1994:

"El arrendador queda obligado a entregar al arrendatario recibo del pago, salvo que se hubiera pactado que éste se realice mediante procedimientos que acrediten el efectivo cumplimiento de la obligación de pago por el arrendatario.

El recibo o documento acreditativo que lo sustituya deberá contener separadamente las cantidades abonadas por los distintos conceptos de los que se componga la totalidad del pago, y específicamente, la renta en vigor.

Si el arrendador no hace entrega del recibo, serán de su cuenta todos los gastos que se originen al arrendatario para dejar constancia del pago."