[protocol] Set errno when abandoning dsmesock_send_with_extra()

Callers expect errno to be set when dsmesock_send_with_extra() - which
does not happen on error paths that bypass io altogether.

Set errno to ENOTCONN when doing early return due to invalid connection
state.

Also remove redundant parentheses.

Signed-off-by: Simo Piiroinen <simo.piiroinen@jollamobile.com>