Access è un database basato su file. SQL Server è un servizio.
Da questa definizione è evidente che non basta il file mdf perchè manca la componente fondamentale, ovvero il servizio.
Il fatto che tu non riesca a connetterti penso possa dipendere dalla tuo modo di pensare "Access based". Per utilizzare un db di access indicavi un file. Per utilizzare un database di SQL Server devi chiedere a chi ti fornisce il servizio (SQL Server) di farti accedere ad uno dei suoi database e solo a questo punto (se ne hai i permessi) SQL Server soddisferà di volta in volta le tue richieste. Come vedi SQL Server non è opzionale... ;-)

Infine ti faccio presente che il file mdf NON è il database ma è una PARTE del database in quanto un db di SQL Server si compone, a livello di file system, di uno o più file dati (mdf, ndf) E uno o più file di log (ldf).
Il file mdf privo del suo ldf è una parte del database e benchè puoi darlo ad un SQL Server affinchè te lo metta a disposizione senza il suo ldf rischi che i dati siano logicamente corrotti.

Bye