O perating s ystems t hree e asy p ieces

ACHE

C

ONSISTENCY

I

S

N

OT

A P

ANACEA

When discussing distributed file systems, much is made of the cache con-

sistency the file systems provide. However, this baseline consistency does

not solve all problems with regards to file access from multiple clients.

For example, if you are building a code repository, with multiple clients

performing check-ins and check-outs of code, you can’t simply rely on

the underlying file system to do all of the work for you; rather, you have

to use explicit file-level locking in order to ensure that the “right” thing

happens when such concurrent accesses take place. Indeed, any applica-

tion that truly cares about concurrent updates will add extra machinery

to handle conflicts. The baseline consistency described in this chapter and

the previous one are useful primarily for casual usage, i.e., when a user

logs into a different client, they expect some reasonable version of their

files to show up there. Expecting more from these protocols is setting

yourself up for failure, disappointment, and tear-filled frustration.

49.5 Cache Consistency

When we discussed NFS, there were two aspects of cache consistency

we considered: update visibility and cache staleness. With update visi-

bility, the question is: when will the server be updated with a new version

of a file? With cache staleness, the question is: once the server has a new

version, how long before clients see the new version instead of an older

cached copy?

Because of callbacks and whole-file caching, the cache consistency pro-

vided by AFS is easy to describe and understand. There are two im-

portant cases to consider: consistency between processes on different ma-

chines, and consistency between processes on the same machine.

Between different machines, AFS makes updates visible at the server

and invalidates cached copies at the exact same time, which is when the

updated file is closed. A client opens a file, and then writes to it (perhaps

repeatedly). When it is finally closed, the new file is flushed to the server

(and thus visibile); the server then breaks callbacks for any clients with

cached copies, thus ensuring that clients will no longer read stale copies

of the file; subsequent opens on those clients will require a re-fetch of the

new version of the file from the server.

AFS makes an exception to this simple model between processes on

the same machine. In this case, writes to a file are immediately visible to

other local processes (i.e., a process does not have to wait until a file is

closed to see its latest updates). This makes using a single machine be-

have exactly as you would expect, as this behavior is based upon typical

U

NIX

semantics. Only when switching to a different machine would you

be able to detect the more general AFS consistency mechanism.

There is one interesting cross-machine case that is worthy of further

discussion. Specifically, in the rare case that processes on different ma-

O

PERATING

S

YSTEMS

[V

ERSION

0.80]

WWW

.

OSTEP

.

ORG

---

T

HE

A

NDREW

F

ILE

S

YSTEM

(AFS)

581